NO.1: 슬롯 정품 가품 구별법
가짜 위성 이미지 무더기로 유포돼
지구 표면의 모습을 보여주는 공간 정보 서비스‘구글 어스’가 인공지능(AI) 이미지를 편집·생성하는 기능을 추가했다가 허위 정보 양산 우려에 휩싸여 단 하루 만에 이를 철회했다.빅테크 기업들이 성급하게 AI를 도입했다가 부작용을 맞닥뜨리고 기능을 긴급 중단하는 사례가 늘고 있는 모양새다.
지난달 30일(현지 시각) 구글은 구글 어스에 AI 이미지 생성 도구인‘나노 바나나 2’를 통합한 기능을 공개했다.위성·항공·3D 지도 데이터를 기반으로 특정 위치를 확대해 역사 시각화나 조감도 등을 수 초 만에 생성할 수 있는 기능이었다.그러나 실제 지형·건물 위에 그럴듯한 가짜 장면을 덧씌울 수 있게 되면서 논란이 생겼다.소셜미디어에는 해당 기능으로 생성된 가자지구 폭탄 분화구,슬롯 정품 가품이란 핵시설 같은 국제 안보 및 재난과 직결된 가짜 위성 이미지가 무더기로 유포됐다.
공개출처정보(OSINT) 전문가와 허위정보 연구자들은 반발했다.구글 어스가 분쟁 및 재난 현장의 진위 여부를 대조하는 핵심 잣대 역할을 해왔는데,생성형 AI가 이 기준을 오염시킬 수 있다는 것이다.논란이 거세지자 구글은 기능 도입 하루 만에 “더 강력한 안전장치를 구현할 때까지 해당 기능을 롤백(되돌림)하겠다”고 밝혔다.
빅테크의 AI 기능 철회는 이뿐만이 아니다.메타 역시 지난달 7일 인스타그램 공개 계정 사진을 활용해 이미지를 생성하는 AI 기능‘뮤즈 이미지’를 도입했다가 개인정보 보호 논란으로 지난달 11일 사흘 만에 중단했다.테크 업계에서는 인간의 검증과 개입이 생략된 무분별한 AI 자동화는 기업의 핵심 자산인 신뢰를 갉아먹을 수 있다고 지적이 나온다.