신약 개발 화합물의 독성 여부를 분석하는 인공지능에게 독성 물질을 찾아내라고 명령하자 6시간 만에 4만 개의 치명적인 분자 화학물을 찾아냈다는 논문이 네이처 머신 인텔리전스 저널에 실렸다. 핵, 생물학, 화학 무기 관련 위험성을 평가하기 위해 2년마다 스위스 슈피츠 연구소가 개최하고 각국 과학, 군사 전문가들이 참석하는 국제 콘퍼런스의 요청으로 이번 테스트가 진행됐다. 

수십 년 동안 누적된 약물 개발 관련 데이터를 학습한 인공지능으로 임상 단계의 신약의 위험성을 평가하는 콜라보레이션 파마세니컬스(Collaborations Pharmaceuticals)에게 인공지능 기술의 잠재적 악용 가능성에 대한 평가 요청이 있었고 결과는 놀라웠다. 새로운 약물 개발은 수많은 변수가 있고 안전성이 가장 우선된다. 특정 증상, 병증을 치료할 수 있지만 다른 신체에 위험할 수 있다면 사용할 수가 없다. 이런 문제를 방지하기 위해 독성 요소를 찾아내는 인공지능에게 반대로 독성을 찾아내도록 한 것이다. 

인공지능은 화학 무기로 사용될 수 있는 화합물을 쏟아 내기 시작했고 인간이 만들어낸 가장 치명적인 VX 신경독 가스보다 더 위험할 것으로 보이는 화합물도 상당수 찾아낸 것에 연구진도 경악했다. 또 한 가지 놀라운 점은 화학 무기를 학습하지 않은 인공지능이 VX 가스와 이전에 만들어진 화학 무기와 비슷한 화합물을 만들어 냈다는 점이다. 

인터넷에는 누구나 무료로 내려받을 수 있는 독성 데이터 세트가 있고 약간의 전문 지식이 있는 누군가 악의적으로 사용한다면 생각보다 쉽게 독성 화합물을 만들어 낼 수 있다고 설명했다. 물론 데이터 분석으로 가상 공간에서 만들어 낸 화합물이 실제 인체에 미치는 영향 알 수 없다. 화합물이 실제로 만들 수 없는 경우도 있다. 하지만 이 중 누군가 실제 인체에 영향을 줄 수 있는지 실험한다면 치명적인 물질을 현실 세계로 가져 올 수 있는 위험은 존재한다고 경고하고 있다. 

터미네이터 따위가 문제가 아닙니다