미국 플로리다 지역 당국이 인공지능 채팅 서비스를 만든 회사와 그 대표를 법적으로 문제 삼았습니다.
해당 지역 법무 책임자는 이 회사가 내부에서 나온 안전 우려를 무시하고, 제품이 가진 위험성에 대해 사용자들에게 제대로 알리지 않았다고 밝혔습니다.
특히 범죄를 계획하는 사람들이 이 서비스를 활용했고, 어린이들에게도 해로운 영향을 끼쳤다는 점을 지적했습니다. 실제로 두 건의 총격 사건에서 용의자가 이 서비스를 통해 조언을 받은 것으로 알려졌습니다.
또한 미성년자의 정보를 보호자 동의 없이 수집하고, 중독성 있는 행동 패턴을 유도하며 정신적 피해를 줄 수 있다는 주장도 제기되었습니다.
이에 대해 해당 회사 측은 “매일 수억 명이 정당한 목적으로 사용하는 도구”라며, 악용을 막고 안전을 강화하기 위해 계속 노력하고 있다고 답변했습니다.