구글의 인공지능(AI)에 또다시 적신호가 켜졌습니다. 이번엔 단순한 오류가 아닌, 미국 현직 상원의원에 대한 '명예훼손'이라는 심각한 논란에 휩싸였습니다. 구글은 논란이 된 AI 모델 '젬마(Gemma)'의 개발자용 서비스를 일시 중단했는데요. 단순한 해프닝으로 보기 어려운 이번 사태의 전말과, 제미나이 사태에 이어 반복되는 구글 AI의 문제점을 깊이 파고들었습니다.
🛑 "명백한 허위"... AI 젬마, 왜 중단됐나?
사건의 발단은 구글의 개발자 플랫폼 'AI 스튜디오'에서 제공되던 젬마 1.1 모델이 생성한 답변이었습니다. 테크크런치 등 외신에 따르면, 마샤 블랙번(Marsha Blackburn) 미국 공화당 상원의원이 이 모델에 대해 "거짓되고 명예를 훼손하는 내용을 생성했다"고 강력히 항의했습니다.
놀라운 점은 그 내용입니다. 블랙번 의원실에 따르면, 젬마 AI는 의원에 대한 질문에 '심각한 범죄 혐의(강간)'를 날조해 답변하고, 이를 뒷받침하는 가짜 뉴스 기사 링크까지 생성한 것으로 알려졌습니다. 이는 AI가 단순히 정보를 잘못 요약하는 '환각(Hallucination)' 현상을 넘어, 구체적인 허위 사실을 적극적으로 꾸며낸 심각한 사안입니다.
🗣️ 구글을 정조준한 블랙번 상원의원은 누구?
이번에 문제를 제기한 마샤 블랙번 상원의원은 IT 업계에서 매우 잘 알려진 인물입니다. 그녀는 평소 빅테크 기업들의 무분별한 시장 독점과 데이터 수집 관행에 대해 가장 비판적인 목소리를 내온 '대(對) 빅테크 저격수' 중 한 명입니다.
특히 '아동 온라인 안전법(KOSA)'을 공동 발의하는 등 플랫폼의 책임과 규제를 강력하게 주장해왔습니다. 이런 그녀가 구글 AI로부터 직접 '가짜 범죄' 피해자가 되면서, 이번 사태는 단순한 기술적 결함을 넘어 정치적, 법적 문제로 비화할 가능성이 커졌습니다. 구글 역시 공식 성명을 통해 "잠재적인 문제를 인지하고 수정 작업을 진행 중"이라며 젬마 모델의 서비스를 일시 중단한다고 밝혔습니다.
| TEMU |
 |
 |
 |
 |
📜 낯설지 않은 구글의 AI 논란, 제미나이의 악몽
사실 구글 AI의 안전성 논란은 이번이 처음이 아닙니다. 많은 분이 2024년 초를 떠들썩하게 했던 '제미나이(Gemini) 이미지 생성' 사태를 기억하실 겁니다. 당시 제미나이는 역사적 인물(미국 건국의 아버지들, 나치 군인 등)을 유색인종으로 묘사하는 등 역사적 사실을 왜곡하는 이미지를 생성해 전 세계적인 비판을 받았습니다.
결국 순다르 피차이 구글 CEO가 "완전히 용납할 수 없는 일"이라며 공식 사과하고 이미지 생성 기능을 중단해야 했습니다. 그로부터 채 1년도 되지 않아, 이번에는 제미나이와 동일한 기술 기반의 경량화 '오픈 모델'인 젬마에서 명예훼손이라는 더 심각한 문제가 터져 나온 것입니다. 이는 구글의 AI 안전성 검증 시스템에 근본적인 허점이 있는 것 아니냐는 의구심을 키우고 있습니다.
⚖️ 'AI 명예훼손', 법적 책임은 누가 지나?
이번 사태는 'AI가 생성한 허위 정보로 인한 명예훼손'의 책임을 누가 져야 하는지에 대한 묵직한 질문을 던집니다. AI의 '환각'은 기술적 한계로 여겨졌지만, 이제는 실질적인 법적 피해를 유발하는 시한폭탄이 되었습니다.
특히 블랙번 의원 같은 '공인'의 경우, 명예훼손이 성립하려면 '실제 악의(actual malice)' 즉, 허위임을 알면서도 고의로 퍼뜨렸다는 점을 입증해야 합니다. 하지만 AI는 고의나 악의를 가질 수 없습니다. 그렇다면 AI를 개발하고 배포한 기업(구글)이 이 책임을 져야 할까요? 현재 미국 법원은 AI 생성물을 '제3자 콘텐츠'로 보아 플랫폼에 면책권을 주는 '섹션 230'을 적용할지, 아니면 AI 기업을 '콘텐츠 발행인'으로 볼지를 두고 고심 중입니다.
구글 젬마 모델의 이번 서비스 중단은 단순한 기술적 결함을 넘어, AI 시대의 어두운 단면을 극명하게 보여줍니다. AI가 만들어낸 그럴듯한 '가짜 범죄 사실'이 한 개인의 명예를 심각하게 훼손할 수 있음이 증명된 것입니다. 제미나이 사태의 교훈을 채 소화하기도 전에 더 큰 논란에 휩싸인 구글이 이 위기를 어떻게 타개할지, 그리고 AI 기술의 안전성과 법적 책임을 둘러싼 사회적 논의가 어떻게 진행될지 주목해야 할 시점입니다.
| AliExpress |
 |
 |
 |
 |
