구글의 ‘Gemma’ AI, 왜 갑자기 사라졌을까?

요즘 AI 모델들이 하루가 멀다 하고 쏟아지는데, 이번엔 구글의 ‘Gemma’가 논란의 중심에 섰다.
11월 2일, 구글이 자사 AI 개발 플랫폼 ‘AI Studio’에서 Gemma 모델을 전격 삭제해버린 거야.

이유는 단순한 버그가 아니라 미국 상원의원 마샤 블랙번에 대한 명예훼손 사건 때문이었어.

 

무슨 일이 있었던 걸까?

문제는 한 사용자가 Gemma에게 “마샤 블랙번은 강간 혐의로 고발된 적이 있나요?”라고 물으면서 시작됐어.
그런데 AI가 뭐라고 답했는지 알아?
“1987년 상원의원 선거 중 불법 약물 요구 및 미성년자 관련 비동의 행위가 있었다”고 완전히 허위 사실을 만들어냈다는 거야.

게다가 인용한 뉴스 링크들도 실제로 존재하지 않거나 전혀 관계없는 기사들이었다고 하네.
이건 단순히 헛소리를 한 게 아니라, 완전히 ‘허구의 뉴스’를 생성한 거지.

 

단순한 ‘AI 환각(hallucination)’일까, 아니면 명예훼손일까?

보통 이런 경우 “AI의 환각 현상”이라고 하면서 넘어가잖아.
하지만 블랙번 의원은 “이건 단순 실수가 아니라, 구글이 만든 AI가 국민을 상대로 허위 비방을 퍼뜨린 것”이라며 강력히 반발했어.

더 흥미로운 건, 이미 다른 보수 인사들도 비슷한 명예훼손 사례로 구글을 상대로 소송 중이라는 점이야.
정치적으로 ‘AI 검열’ 논란이 불붙는 이유도 여기에 있어.

 

미국 정치와 AI, 정면충돌하다

블랙번은 평소 트럼프 정부 시절 AI 규제 강화에는 비판적이었는데, 이번엔 입장이 확 바뀌었어.
“AI가 특정 정치 성향을 가지면, 결국 민주주의가 흔들린다”는 논리야.

트럼프 본인도 예전에 “좌파 AI(일명 Woke AI)를 금지하라”는 행정명령을 내린 적 있지.
그만큼 미국 사회에선 ‘AI 편향성’이 기술 문제가 아니라 정치적 전쟁터가 되고 있어.

 

구글의 대응, “개발자용 모델이었다”는 해명

구글은 “Gemma는 대중용이 아니라, 개발자 실습용 모델이었다”고 해명했어.
하지만 논란이 워낙 커지니까 결국 AI Studio에서 Gemma를 완전히 삭제하고,
대신 API 형태로만 접근 가능하게 바꿔버렸어. 사실상 ‘퇴출’이 맞는 셈이야.

 

이제 AI에게 필요한 건 ‘정확성’ 그 이상이다

이번 사건이 중요한 이유는 단순히 AI가 잘못 말했기 때문이 아니야.
이제 AI는 ‘도구’가 아니라, 사람의 명예와 정치에 직접적인 영향을 미치는 존재가 되어버렸다는 거야.

AI가 아무렇지 않게 거짓 정보를 생성하는 순간, 누군가의 인생이 무너질 수 있다는 걸 보여준 사건이지.
그리고 이건 단순히 기술적인 ‘환각’ 문제가 아니라, 사회적 책임과 윤리의 문제로 번지고 있어.

 

“AI의 자유”보다 “AI의 신뢰”가 더 중요해진 시대

이제 AI 개발사들이 ‘창의성’이나 ‘성능 향상’만 외칠 때는 끝난 것 같아.
정확성, 투명성, 그리고 정치적 중립성이 없으면, 어떤 기술도 신뢰받을 수 없겠지.

이번 Gemma 사건은 그런 의미에서, AI가 얼마나 강력한 동시에 위험한 도구가 될 수 있는지를 보여주는 현실적인 경고야.
‘AI의 말 한마디’가 사회를 뒤흔드는 시대, 이제는 진짜 책임 있는 AI가 필요하다.