화이트하우스는 주요 AI 공급업체들이 비동의적인 딥페이크와 아동 성학대 소재를 대응하기 위해 조치를 취하기로 약속했다고 말했습니다.
Adoge, Cohere, Microsoft, Anthropic OpenAI 및 데이터 제공업체 Common Crawl은 AI를 훈련시키기 위해 만들거나 사용하는 데이터셋을 '책임적으로' 조달하고 보호하며 성학대 기반 이미지로부터 거부할 것이라고 밝혔습니다. 이들 조직들은 '피드백 루프'와 전략을 개발 프로세스에 통합하여 AI가 성학대 이미지를 생성하는 것에 대비할 것이라고도 말했습니다. 그리고(다시말하지만 Common Crawl은 제외하고) AI 훈련 데이터셋에서 누드 이미지를 '적절한 경우 및 모델의 목적에 따라' 제거하기로 약속했습니다.
이러한 서약은 자율 감시되는 것이 주목할 만합니다. 많은 AI 공급업체들이 참여하지 않았습니다(Midjourney, Stability AI 등). 그리고 특히 OpenAI의 서약은 CEO Sam Altman이 회사가 "책임적으로" AI 포르노를 생성하는 방법을 탐색할 것이라고 말한 5월을 감안할 때 의문을 제기할 수 있습니다.
그럼에도 불구하고 화이트하우스는 이를 딥페이크 누드의 해를 식별하고 줄이기 위한 더 넓은 노력에서의 승리로 극찬했습니다.
