아마존의 인공지능 음성비서 알렉사가 10살 소녀에게 “벽 콘센트에 반쯤 꼽힌 휴대폰 충전기 플러그 사이에 동전을 넣고 만져봐”라고 했고 다행히도 옆에 있던 엄마가 안된다고 소리쳤고 사고로 이어지지는 않았다.

미국에 거주하는 크리스틴 리브달은 자신의 트위터에 알렉사 활동 기록 내용을 캡처한 이미지를 올렸다. 아이는 집에서 사용 중이 아마존 에코 스피커에게 “다음엔 뭘 도전해 볼까?”라고 물었고 알렉사는 위험한 챌린지를 추천했다. 이런 행동이 위험하다는 것은 누구나 알 수 있는 것이지만 알렉사는 위험한 행동에 대한 판단 없이 10살 소녀에게 추천했다. 아이 엄마가 옆에 없었다면 심각한 화상이나 목숨을 잃을 수도 있었고 화재가 발생할 수도 있던 아찔한 순간이다.

유튜브, 틱톡 등을 보면 다양한 챌린지가 넘쳐 난다. 그중에는 매우 위험한 것도 있고 이번에 문제가 된 동전 챌린지는 2020년 유행한 적이 있다. 알렉사는 위험성에 대한 판단 없이 소셜네트워크서비스에서 유행하는 것 중에 하나를 추천했다.

아마존은 이 소식을 접하고 즉시 업데이트한 후 차단했다고 발표했다. 확인해 본 결과 같은 결과가 나오지 않았고 챌린지에 대한 검색 결과도 매우 축소됐다. 인공지능 기술이 최근 수년에 걸쳐 비약적으로 발전한 것은 사실이지만 그럼에도 아직도 한참 부족한 미완성의 기술이라는 것을 다시 한번 상기시켜주는 일화다.

인공지능이 이렇게 위험합니다