페이스북의 모회사인 메타와 AI 스타트업 캐릭터AI가 자사의 AI 챗봇을 마치 정신 건강 지원 도구인 것처럼 홍보했다는 의혹이 제기되어 미국 텍사스주 법무부의 조사가 시작되었습니다.

AI 챗봇, 정신 건강 지원 도구로 오인하게 만들까?
텍사스주 법무장관 사무실은 18일(현지시간) 성명을 통해 메타의 AI 스튜디오와 캐릭터AI에 대한 조사를 공식화했습니다. 법무부는 이들 기업이 AI 챗봇을 통해 정신 건강 관련 서비스를 제공하는 것처럼 홍보하여 소비자들을 현혹했을 가능성에 주목하고 있습니다. 특히, AI 챗봇이 제공하는 정보의 정확성과 신뢰성에 대한 우려가 제기되면서 논란이 더욱 거세지고 있습니다.

캐릭터AI, 사용자 데이터 활용 문제도 불거져
캐릭터AI는 사용자와의 대화 내용을 기반으로 AI 챗봇을 훈련시키는 방식으로 운영됩니다. 이 과정에서 수집되는 개인 정보 및 민감한 데이터의 활용 방식에 대한 우려 역시 제기되고 있습니다. 특히, 정신 건강과 관련된 민감한 정보를 AI 챗봇이 학습하게 될 경우, 개인 정보 유출 및 오용의 위험이 있다는 지적이 나오고 있습니다.

메타, AI 윤리 논란에 휩쓸리나?
이번 조사는 메타가 AI 기술을 활용하여 윤리적인 문제를 야기할 수 있다는 우려를 다시 한번 부각시키고 있습니다. 메타는 이미 개인 정보 보호 및 가짜 뉴스 확산 등 다양한 논란에 휩싸인 바 있으며, 이번 AI 챗봇 홍보 논란으로 인해 기업 이미지에 타격을 입을 수 있습니다.

법무부 조사, 어떤 결과를 초래할까?
텍사스주 법무부의 조사는 메타와 캐릭터AI의 홍보 방식 및 데이터 활용 실태를 면밀히 검토하고, 관련 법규 위반 여부를 판단할 것입니다. 만약 법규 위반이 확인될 경우, 이들 기업은 과징금 부과, 영업 정지 등 강력한 제재를 받을 수 있습니다. 또한, 이번 조사는 AI 기술의 윤리적 책임에 대한 사회적 관심을 환기시키고, 관련 규제 강화의 계기가 될 수 있을 것으로 예상됩니다.