Svmuu 소식: OpenAI는 신뢰할 수 있는 AI 생태계 구축을 촉진하고 AI 생성 콘텐츠의 출처 추적 및 투명성을 강화하기 위해 유럽연합 집행위원회가 발표한 ‘AI 생성 콘텐츠 투명성 실천 지침(Code of Practice on Transparency of AI-Generated Content)’을 지지한다고 발표했다. OpenAI는 이 지침이 유럽연합(EU)의 《AI 법안》(EU AI Act)을 이행하는 데 있어 중요한 한 걸음이라고 밝혔다. 이번 지침 지원은 OpenAI가 수년간 콘텐츠 출처 추적(provenance)을 중심으로 진행해 온 연구, 제품 개발 및 생태계 협력의 토대 위에 이루어졌다. 소개에 따르면, OpenAI는 2024년부터 DALL·E 3 이미지 생성 도구에 AI 생성 콘텐츠의 출처를 식별하기 위한 C2PA 메타데이터를 추가하기 시작했다. 이후 OpenAI는 콘텐츠 태깅 및 탐지 기술을 지속적으로 개선하고, 사용자가 이미지에 OpenAI 생성 콘텐츠와 관련된 출처 신호가 포함되어 있는지 판단할 수 있도록 돕는 공개 검증 도구를 출시했다. OpenAI는 현재 다음과 같은 다층적 콘텐츠 출처 추적 방안을 채택하고 있다고 밝혔다: ChatGPT, Codex 및 API로 생성된 이미지에 C2PA 콘텐츠 자격 증명(Content Credentials)을 추가하고; AI 생성 이미지에 C2PA 메타데이터와 SynthID 워터마크를 결합하여 출처 식별 능력을 향상시킵니다; 공개 검증 도구를 출시하여 사용자가 지원되는 이미지에 OpenAI 생성 출처 신호가 포함되어 있는지 확인할 수 있도록 돕습니다; Coalition for Content Provenance and Authenticity (C2PA) 표준 구축에 참여하여 업계의 통일된 콘텐츠 출처 추적 규범을 추진합니다. OpenAI는 AI 콘텐츠 출처 추적 기술이 아직 발전 단계에 있으며, 메타데이터는 업로드, 다운로드, 형식 변환 또는 스크린샷 촬영 등의 작업으로 인해 손실될 수 있고 워터마크도 영향을 받을 수 있다고 지적했습니다. 따라서 업계 전체가 협력하여 더욱 신뢰할 수 있고 상호 운용 가능한 검증 메커니즘을 구축해야 합니다. OpenAI는 제품 내 콘텐츠 투명성 강화를 지속하고, 개방형 표준 제정에 참여하며, EU AI 사무국, 회원국 및 글로벌 AI 커뮤니티와 협력하여 더욱 안전하고 투명하며 신뢰할 수 있는 AI 생태계 구축을 추진할 것이라고 밝혔습니다.