AI는 어떻게 악용될 수 있을까?

'공기의 연금술'이라는 책을 최근에 읽었다. 공기에서 비료를 만들어내는 기술로 노벨화학상을 수상한 두 과학자의 이야기다. 공기에서 비료를? 공기에는 엄청난 양의 질소가 있다. 과자봉지 속에 채워져있는 기체도 질소다. 공기 중에 남아도는 질소는 비료의 주성분이다. 책 초반에는 어떤 과학자의 연설로 시작한다. 인구수는 계속 증가하는데 지구에서 생산 가능한 식량은 얼마 안되기 때문에 큰 위험이 도래할 거라는 경고문이다. 비료 생산의 원료들이 고갈되어 가고 있었기 때문이다. 그러한 배경에서 과학자들이 공기 중에서 얼마든지 구할 수 있는 질소로 비료를 만들기 위한 노력을 했다. 공기로부터 비료를 만들어내면서 식량 부족 문제 자체가 해소되었다. 공기를 '황금'으로 바꾼 것과 같은 엄청난 발견이었다. 이러한 기술의 발전에 기여한 두 과학자는 노벨화학상을 수상하게 된다. 책을 계속 읽어보면 이 기술이 발전한 시기에 세계1차대전, 세계2차대전이 있었다. 공기에 잔뜩 들어있는 질소는 사실 폭탄의 주재료이기도 하다. 그래서 전쟁시기에는 같은 기술을 바탕으로 폭탄의 제조를 돕게 된다. 동일한 기술. 식량 문제 해결의 핵심인 기술이 동시에 폭탄을 생산하는 기술로 변했다. 모든 기술은 이렇게 양면성이 있다.

 

챗GPT가 출시된 초기에 여러가지 악용사례가 있었다. 예를 들면 보이스피싱 할 수 있는 방법을 상세하게 알려준다거나, 특정 홈페이지를 해킹할 수 있는 프로그래밍 코드를 알려주는 것들이 있다. 이러한 것들을 보완하기 위해서 기술이 같이 발전했다. 요즘에는 이런 질문에 대해서 답변을 안해주지만, 이렇게 답변을 가려서 하는 이유는 내부에서 검열 과정을 거치기 때문이다. Guardrail이라고 부르는데, 입력된 프롬프트의 의도를 여러가지로 분류한다. 그리고 악용 사례 중 하나로 확인되면 답변을 하지 않는다. 개인적으로 미국 대통령 투표 전에 코파일럿에 트럼프 대통령에 관한 질문을 해본적이 있다. 사실 투표랑 관련된 내용은 아니고 어린시절 어떻게 교육을 받았을 지 궁금해서 그 자료를 찾아달라고 요청한건데, 전혀 답변을 안 해줬다. 이렇게 내부적으로 특정 단어가 나오면 지정된 답변만 하도록 챗봇의 행동을 조절하기도 한다.

 

화학물질의 특성을 예측하는 AI 모델 또한 동일한 이유에서 악용될 수 있다. 이제까지 소개한 모델은 대부분 의약품 개발에 사용된다. 의약품이 사람에게 해를 끼치지 않도록 하기 위해서 유해한 물질을 찾아내고 필터링 하는데 사용되고 있다. 하지만..? 반대로 사용된다면? 예를 들어 독가스를 개발하는데 사용한다면? 사실 불가능한 것은 아니다. 더 효능이 뛰어난 마약을 개발하는데도 사용할 수 있을까? 불가능하지는 않다. 인공지능 연구는 사실 오픈 소스를 통해서 엄청나게 성장했다. 오픈 소스란 개발한 프로그래밍 코드를 모두 공개하는 것을 의미한다. 특히 hugging face에는 데이터와 모델까지도 공개된다. 그래서 남들이 어렵게 개발한 내용을 무료로 누구나 볼 수 있는 환경이 되었다. 그런데 선한 의도로 사용하려는 사람 외에 악한 의도로 사용하는 사람들 또한 동일한 자료를 확인해볼 수 있다. QSAR 연구도 점점 증가하고 있다. 인공지능 학회에서도 신약 개발을 중요한 주제로 다루면서 다양한 연구 논문들이 발표되고 있다. 오픈 소스로 공개되는 모델과 데이터셋도 늘어나고 있는 상황이다. 화학 무기 생산에 이런 기술이 도입될 수 있을까? 오픈 소스 모델이면 누구든지 접근해서 쓸 수 있다. Deep fake 같은 경우도 오픈 소스 모델에서부터 개발이 되었다고 한다.

 

오픈 소스가 인공지능 연구를 견인하는데 핵심 적인 역할을 했다. 최근 나타나는 악용 사례 또한 오픈 소스 모델을 활용했다는 것을 보면 이러한 기술을 어디까지 공개하고 공유해야 될지 고민이 된다. 신약 개발을 위해 개발된 인공지능은 화학 무기 개발에도 동일하게 활용될 수 있다. QSAR 모델 개발을 돕기 위해 개발된 많은 데이터베이스 또한 화학무기 개발에 이용될 수 있는 가능성이 있다. 러시아에서 주요 인물 암살에 사용되었다고 하는 '노비촉'은 휘발성이 강하다. 그리고 신경계에 작용하는 물질이다. 이 독극물의 핵심구조와 비슷한 화학물질을 우리가 일상에서 쓰고 있다. 바로 살충제다. 살충제는 곤충의 신경계를 공격하는 물질이다. 사람의 신경계를 공격하도록 설계된 물질과 살충제의 핵심 구조가 유사하다는 것은 충격이다. QSAR 모델을 찾아보면 휘발성 예측 모델을 찾을 수 있다. 그리고 노비촉이 공격하는 단백질에 대한 실험 값은 공개 데이터베이스에서 찾을 수도 있다. 살충제 정보를 참고할 수도 있다. 그러니 비슷한 독극물을 개발할 때 AI를 활용한다고 하면 불가능하지는 않다. 불행 중 다행이라면..? 인공지능이 찾아낸 후보물질이 신약으로 개발된 사례가 아직 없다.  실패 사례만 많다. 마찬가지로 원하는 독약을 찾는 성능도 떨어질 수 있다. 원하는 독극물을 AI 만으로 찾기에는 어려울 거라고 본다. 하지만 인공지능 발전 속도를 보면, 앞으로 또 어떻게 변할지는 알 수 없는 일이다. 악용 사례를 막기 위해서라도 인공지능을 선한 의도로 사용하려는 전문가들이 더 많아져야 된다고 생각한다.