[생성형 AI(Generative AI), 인간의 창작 영역을 넘본다! (45)] 대규모 선거의 해 2024년, AI가 만드는 가짜 뉴스에 어떻게 대응해야 하나 (下)
최봉 산업경제 전문기자 입력 : 2024.02.22 00:30 ㅣ 수정 : 2024.02.22 00:30
[기사요약] 우리나라, 생성형 AI 기술 적용해 만든 딥페이크를 선거운동에 사용하는 것 전면 금지 샘 알트먼, 빌 게이츠도 AI가 만드는 선거 관련 가짜 뉴스에 우려 표명 OpenAI 등 빅테크기업들, 선거에서의 잘못된 정보 방지 위한 여러 계획 수립 생성형 AI 알고리즘 계속 진화하기 때문에 딥페이크 문제는 더욱 악화할 가능성 커.. 선거 참여 유권자들, 딥페이크에 현혹되지 않도록 더욱 현명해져야..
사람들은 시, 소설, 보고서 등 글쓰기, 그림 그리기, 알고리즘 코딩 등 창작의 세계가 그동안 인간에게만 허락된 별도의 영역이라 알고 있었다. 그런데 AI(인공지능)의 발전과 함께 이제는 진화한 AI가 스스로 창작의 영역을 넘보는 시대가 되었다. 생성형 AI(Generative AI)의 등장은 인간에게 어떤 의미가 있으며 우리의 미래에 어떤 영향을 미칠지 가늠하기 쉽지 않지만, 생성형 AI는 이미 여러 분야에서 현실로 나타나 적용되고 있다. 우리에게 성큼 다가온 생성형 AI의 시장현황, 다양한 이슈와 관심 사항 등을 살펴보기로 하자. <편집자 주>
[출처=wall street journal, iStock]
[뉴스투데이=최봉 산업경제 전문기자] 많은 사람은 2022년 3월 대선 당시 등장했던 AI윤석열, AI이재명을 여전히 기억하고 있을 것이다.
당시 이 아바타는 우리가 논의해온 부정적 의미의 딥페이크(deepfake)는 아니었다. 가짜 뉴스를 읊어대는 아바타가 아니라 진짜 후보를 대신해서 정책을 전달하고 홍보하는 역할을 담당했었다.
하지만 이번 4월 총선을 앞두고 이 같은 사이버 캐릭터는 볼 수 없을 것이다. 출마자들이 인공지능(AI) 특히 생성형 AI 기술을 적용해 만든 딥페이크를 선거운동에 사용하는 것이 전면 금지되었기 때문이다.
2022년 대선 당시의 AI윤석열(좌)과 AI이재명(우) [출처=각 선거진영 라이브 영상]
• 생성형 AI 도구가 만든 딥페이크, 유권자 부당하게 흔들 수 있어..
올해 전세계 50개 이상 국가의 유권자들이 투표장으로 향하는 ‘슈퍼 선거의 해’를 맞이하여 AI가 만드는 가짜 뉴스에 대해 우려하고 있다.
지난 1월 「2024 다보스포럼」에 참석했던 OpenAI의 샘 알트먼(Sam Altman)은 허위 정보, 잘못된 정보와 관련하여 더 많은 불확실성을 언급했다.
지난 2020 미국 대선 당시에는 ChatGPT를 사용할 수 없었는데, 지금은 코드 작성이나 이메일 제작을 더 쉽게 하는 것 외에도 생성형 AI 도구가 허위 정보와 가짜 이미지를 만들어 유권자를 부당하게 흔들 수 있다는 우려가 커지고 있음을 강조했다.
역시 다보스에서 마이크로소프트 공동 창립자인 빌 게이츠는 블룸버그와의 인터뷰에서 생성형 AI 도구를 사용하면 “악당이 더 생산적일 것”이라고 예측했다(Bloomberg, 2024.1.17.).
OpenAI CEO 샘 알트먼 [출처=AFP]
• AI 및 거대 기술기업들, 선거 관련 딥페이크 대응 위한 계획 수립에 고민
딥페이크가 선거에 미치는 부정적 영향에 가장 민감하면서 책임감을 갖는 기업 중 하나는 챗봇 ChatGPT와 이미지 생성기 DALL-E 등 인기 생성형 AI 제품을 개발한 OpenAI일 것이다. 이에 따라 OpenAI는 선거에서의 잘못된 정보를 방지하기 위한 여러 계획을 수립하였다.
이 회사는 실제 후보자 또는 정부를 사칭하거나 투표 방식을 왜곡하거나 사람들의 투표를 방해하는 챗봇을 만드는 데 자사의 기술을 사용하는 것을 금지할 것이라고 밝혔다.
또한, 자사의 기술력이 얼마나 설득력 있는지에 대한 더 많은 연구가 이루어질 때까지는 사용자가 정치 캠페인이나 로비를 목적으로 애플리케이션을 구축하는 것을 허용하지 않을 것이라고 밝혔다.
OpenAI는 올해 초부터 DALL-E를 사용하여 생성된 AI 이미지를 디지털 방식으로 워터마크(watermark) 처리할 것이라고 언급하기도 했다.
이렇게 하면 콘텐츠에 출처에 대한 정보가 영구적으로 표시되어 웹의 다른 곳에 나타나는 이미지가 AI 도구를 사용하여 생성된 것인지 더 쉽게 식별할 수 있다.
[출처=linkedin]
다른 AI 및 거대 기술기업들도 선거 관련 딥페이크에 대응하기 위한 계획 수립에 고민하고 있다.
메타는 2024년에도 국가가 통제하는 미디어에 라벨을 붙이고, 미국인을 대상으로 하는 해당 매체의 광고를 차단하며, 미국 캠페인 마지막 주에 새로운 정치 광고를 금지하고, 광고주가 정치, 사회 및 선거 관련 광고의 콘텐츠를 만들거나 변경하는 데 AI 또는 기타 디지털 도구를 사용했는지 공개하도록 요구하는 등 오랜 관행을 이어갈 것이라고 주장한다.
지주회사 알파벳 소속인 구글은 자사의 AI 챗봇 바드(Bard)와 기타 생성형 AI 제품이 답변할 수 있는 선거 관련 질문의 유형을 제한할 것이라고 밝혔다.
또다른 알파벳 소속 동영상 플랫폼 유튜브는 2024년부터 콘텐츠 제작자에게 사실적인 합성 또는 변형 콘텐츠 제작 여부를 공개하도록 의무화하여 시청자에게 이를 알릴 수 있도록 할 예정이다(Forbes, 2024.1.17.).
[출처=cnbc, Getty Images]
• 유권자들도 딥페이크에 현혹되지 않도록 더욱 현명해져야..
이와 함께 일반인들, 즉 선거에 참여하는 유권자들도 딥페이크에 현혹되지 않도록 더욱 현명해져야 한다.
AI로 생성된 이미지에는 손가락이 기형이거나 하나 더 달린 이상한 모양의 손과 같은 특징적인 요소가 포함되는 경향이 있었다. 최신 기술은 이러한 문제를 대부분 해결했지만, 자세히 살펴보면 여전히 미묘한 불일치가 존재한다.
오디오 딥페이크의 경우에도 마찬가지다. 예를 들어, AI가 생성한 음성에는 사람들이 습관적으로 내는 “음” 또는 “어” 등의 소리가 포함되지 않거나 실제 음성의 특징인 품질이 떨어지는 녹음이 포함되지 않는 경향이 있다(Science, 2024.1.29.).
[출처=Scientific American]
그러나 AI 기술이 전반적으로 발전하는 것을 막을 수는 없으며 생성형 AI 알고리즘이 좋아지고 있기 때문에 딥페이크 문제는 더욱 악화할 가능성이 크다. 딥페이크를 탐지하려는 지속적인 노력이 필요하다.
