UPDATED. 2024-05-21 11:17 (화)

오픈AI, 美대선 기간 AI 악용 사례 차단 '총력'
상태바
오픈AI, 美대선 기간 AI 악용 사례 차단 '총력'
  • 한지혜 기자
  • 승인 2024.01.17 11:09
이 기사를 공유합니다

[블록체인투데이 한지혜 기자] 챗GPT 개발사 오픈AI(OpenAI)가 올해 실시될 미국 대통령 선거에 대한 새로운 접근 방식을 설명하는 블로그 게시글을 업로드했다.

16일(현지 시각) 오픈AI는 "AI의 오남용을 방지하고 콘텐츠에 대한 투명성을 높이며 정확한 투표 정보에 대한 유권자 접근을 강화하고자 한다"고 밝혔다.

회사는 자사의 AI 서비스가 선거의 협력적인 성격의 무결성을 보호할 필요성을 강조하면서 AI 기술이 이 과정을 약화시킬 수 있는 방식으로 사용되지 않기를 원하고 있다.

오픈AI는 "우리는 AI 시스템이 안전하게 구축, 배포 및 사용되도록 하고 싶다. 다른 새로운 기술과 마찬가지로 이러한 도구에도 이점과 도전 과제를 가지고 있다"라며 "2024년 선거를 준비하면서 우리의 접근 방식은 투표 정보를 높이고, 신중한 정책을 시행하며 투명성을 개선하여 플랫폼 안전 작업을 지속하는 것"이라고 말했다.

그러면서 선거와 관련하여 △오해의 소지가 있는 딥페이크 △후보자를 사칭하는 챗봇 △규모가 큰 영향력 운영 등과 같은 오남용을 방지하기 위한 방안을 위해 전념하고 있다고 밝히면서 이러한 조치 중 일례로 회사는 정치 후보자를 포함하여 실제 인물의 이미지 생성 요청을 거부하는 가드레일을 Dall-E에 구현하고 있다고 덧붙였다.

한편 선거에 대한 AI의 영향은 이미 주요 논의 주제였으며, 마이크로소프트(Microsoft)는 소셜 미디어에서 AI 사용이 유권자 정서에 영향을 줄 수 있는 잠재력에 대한 보고서를 발표한 바 있다. 

hjh@blockchaintoday.co.kr



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토