이미지 제공, Getty
파라브 고슈 과학 담당 편집 위원
영국 런던 중심부의 구시계 공장 유적지에 하얀 냉동고가 늘어서 조용히 가동하고 있다. 안에는 바코드가 달린 유리관이 들어있는 작은 상자가 수십개 보관되어 있다. 유리관에 들어가 있는 것은 합계 1000억 개의 유전자이다. 이 시설의 공동 창설자 올리버 빈스 박사에 따르면, 이 중 단 2상자만으로도 인터넷상의 모든 텍스트의 10배의 정보량이 포함되어 있을지도 모른다.
빈스 박사의 '베이스 캠프 리서치'는 가능한 한 많은 DNA를 수집하고 생물학 언어를 말할 수 있는 인공지능(AI)을 개발할 계획을 세우고 있다. 이는 미국과 중국의 테크 기업이 인터넷상에 있는 방대한 양의 문헌을 수집해 현재 AI 시스템의 기반이 된 대규모 언어 모델(LLM)을 작성한 것과 같은 수법이다.
빈스 박사는 비즈니스계나 학술연구계의 많은 사람들과 마찬가지로 AI가 과학연구를 비약적으로 가속시킬 것이라고 믿고 있다. 그러나 동시에 AI에 대해서는 비판과 경고도 늘고 있다.
생성 AI 채팅봇 '채팅GPT'를 개발·운영하는 미국 오픈AI는 지난달 미해결 수학 난문 '밀레니엄 경품 문제' 중 하나를 해결했다고 발표했다. 이 회사에 따르면 AI 에이전트가 나비에 스토크스 방정식에 관한 문제를 88시간에 해결했다고 한다. '밀레니엄 현상 문제'를 선택해 해결한 자에게 상금을 수여하고 있는 클레이 수학연구소는 '해결한 모습'이라고 말했지만 심사에는 시간이 걸린다고 한다.
그러나 오픈 AI 발표 몇 시간 전 미국 뉴욕 대학 수학자 트리스탄 백마스터 씨가 공개적으로 우려를 표명했다. 백마스터 씨는 오픈 AI의 경쟁 앤솔로픽에서 일하는 수학자 레벤트 알포게 씨와 독립적인 팀을 결성했다.
이 팀도 나비에 스토크스 방정식을 풀려고 연구를 진행하고 있으며, 그 성과의 초고를 오픈 AI의 코딩 툴 "Codex"에 보존하고 있었다.
백마스터 씨는 오픈 AI에 연구의 진척 상황이 “전해졌다”고 공동 연구자가 알린다고 설명했지만 그 경위는 밝히지 않았다. 그는 코덱스에 보존된 자신의 연구 성과가 오픈 AI의 연구에 도움이 되었을 가능성에 대해 의문을 제기한 반면, "뭔가에 대해 누군가를 비난하고 있는 것은 아니다"고 강조했다.
오픈 AI는 인간과 AI 모두 다른 팀의 성과가 발표되기 전에 그 내용을 보지 않았다고 말했다. 한편, 회사는 당초 가능성은 낮지만 자사 제품의 사용에서 얻은 익명 데이터가 모델 개선에 도움이 되었을 가능성을 "부정할 수 없다"고 말했다. 그러나 그 며칠 후 발표 전 2개월 동안 백마스터 씨의 Codex 프롬프트가 "시스템에 어떠한 영향을 미치는 등 있을 수 없었다"고 말했다.
이것은 복잡한 이야기로, 무슨 일이 일어났는지 아직 완전히는 알 수 없다. 그러나 이것은 과학 분야에서의 AI 이용에 대해 심각화하는 문제를 부각하고 있다. 통상은 「AI」라고 들으면, 인류를 멸망시키는 무서운 유전자 조작 바이러스나 화학 무기를 만들어 내는 로봇을 떠올릴 것이다. 한편, 그렇게 주목을 끌고 있지 않은, 보다 미묘한 문제가 있다. AI가 과학적 프로세스에 대한 신뢰를 저해하는 연구의 신규성과 정확성에 대해 의문을 던질 가능성이 있다는 문제다.
문제는 또 하나 있다. '클로드'나 미국 구글의 '제미니'라는 AI 채팅봇이 사실과 다르다는 것을 때때로 환각처럼 말할 수 있는 것은 잘 알려진 사실이다. 존재하지 않는 영화나 아무도 말하지 않은 명언에 대해서 말하기도 한다. 그리고 지금, 이러한 현상이 과학 분야에서도 점점 현저해지고 있다는 증거가 나오고 있으며, 어느 쪽은 진정한 과학적 발견과 AI가 만들어낸 허구를 구별하는 것이 어려워지는 것은 아닐까 걱정되고 있다.
이러한 우려는 모두 과학연구를 지지하는 신뢰라는 기초를 붕괴시킬 수 있거나 침식할 우려가 있다.
「전환점」
AI에 의해 과학적 성실성을 수호하는 존재의 과학전문지가 위협에 노출되어 있다. 이 학술지는 AI가 낳는 방대한 양의 왜곡을 다루지 못하는 것으로 보인다.
"생성형 AI는 과학 프로세스 전체를 혼란시켜 버렸다"고 연구 부정에 대해 10년간 취재해 온 과학 저널리스트의 달미트 신 차우라 씨는 말한다.
차우라 씨는 BBC에 대해 출판사의 윤리심사 담당자(투고 내용의 정확성과 신뢰성을 심사하는 사람들)이 "이 싸움에 조금이라도 관련되기 위해서는 인원수와 노력을 크게 늘릴 필요가 있다"고 말했다. 그리고 "현상에서는 그렇게 하고 있는 것처럼 보이지 않는다"고 덧붙였다.
언뜻 보면, AI는 과학 연구 추진에 최적의 도구로 보인다. 과학자는 방대한 양의 정보를 다루고 있습니다. 예를 들어, 망원경과 입자 가속기는 수십억 개의 데이터 포인트를 수집하지만, 이것은 인간의 두뇌가 이해하기에는 너무 큽니다. AI는 주변의 흔한 정보 중에서 과학적인 중요한 포인트를 선택할 수 있다.
과학 AI의 대표격은 영국에 거점을 둔 '구글 딥 마인드'다. 이 회사는 2020년 생물학에서 가장 큰 어려움 중 하나였던 생물체 내의 단백질이 어떻게 정확한 형상으로 접히는가 하는 문제를 해결했다.
생명활동을 지지하는 작은 기계라고도 할 수 있는 단백질은 그 접힌 형상에 의해 세포의 구축이나 감염증과의 싸움부터 몸의 조직이나 장기의 형성까지 다양한 기능을 담당하고 있다.
AI가 등장하기 전에 과학자들은 연구실에서 시간이 많이 걸리는 실험을 해야 했다. 그 후 구글 딥 마인드는 '알파폴드'라는 AI 모델을 개발해 불과 1년 만에 2억개의 단백질의 접힌 구조를 정확하게 예측하는 데 성공했다.
이것을 종래의 방식으로 실시하기 위해서는, 수억년의 세월을 필요로 할 것이다. 이 회사는 연구 성과를 연구자에게 무료로 제공했다. 2024년 구글 딥 마인드 대표와 주임 과학자는 공동으로 노벨 화학상을 수상했다.
이 사건에는 관계자가 모두 껴안고 기뻐했다.
이 회사의 과학연구를 이끄는 푸시미트 코리 박사는 알파폴드가 '하나의 전환점'으로 보일 것이라고 나에게 말했다.
AI의 일에 의문
그러나 과학 분야에서의 AI 이용은 과대 광고라는 비판도 초래하고 있다. 일부 컴퓨터 모델은 그 발견의 중요성을 과장하고 있다고 비난받고 있으며, 그것을 감독하는 인간 연구자는 충분한 회의심을 가지지 않고 일부 주장을 믿어 버린다는 것이다.
알파폴드에서 성공에 끓는 구글 딥마인드는 최근 신소재의 구조 예측에 주력하기 시작했다. 이 연구는 고성능 전지, 저가의 태양 전지 및 희토류 원소에 의존하지 않는 전자 부품의 개발로 이어질 수 있다. 성공하면 이론상에서는 채굴권을 둘러싼 다툼은 다시 일어나지 않게 되고, 덴마크의 자치령 그린란드는 침략의 위험으로부터 지켜질 것이다.
이미지 제공, Jose Sarmento Matos/Bloomberg via Getty Images
이 회사의 AI 모델은 이 회사가 ‘약 800년분의 지식을 단번에 공개한다’는 200만개 이상의 새로운 결정 구조를 만들어냈다. 그 중 약 38만개는 실험실에서 합성할 수 있을 만큼 유망하다고 생각되었다.
그러나 그 후 미국 캘리포니아 대학의 두 명의 화학자가 경고를 발했다. 앤서니 치탐 씨와 람 세샤드리 씨가 신종으로 여겨지는 결정의 무작위 추출 샘플을 조사한 것이다. 두 사람은 학술지 'Chemistry of Materials'에 논문을 발표하고 '놀라울 정도로 참신한 화합물은 발견되지 않았다'고 결론을 내렸고, 대부분은 '알려진 물질의 사소한 개변'에 불과하다고 주장했다. 두 사람은 분석 방법이 잘못되었다는 것이 아니라 얻은 결과에 대해 인간의 화학자에 의한 한층 더 정사와 검증이 필요하다고 지적했다.
구글 딥 마인드는 두 사람의 주장에 반박하고 각 화합물의 신규성을 조사했다고 말했다. 익숙한 구조라고 해서 새로운 구조가 아니라고 결론을 내리는 것은 특이하다고 회사는 주장한다. 휴대폰 부품부터 선스크린까지 오늘날 가장 유용한 재료의 대부분은 단 하나의 원자를 교환함으로써 탄생했기 때문이라고.
쓰레기와 같은 연구
이러한 경우에 적어도 과학적 근거는 대체로 정확하고 문제는 AI가 그 중요성을 과대 평가하고 있을 가능성이 있었다.
그러나 아마 더욱 심각한 우려는 AI가 만들어내는 소위 '슬롭(쓰레기, 잔반 등의 의미)'에 과학지가 오염될 위험이 높아지고 있다는 것이다. 이 경우의 AI 슬롭이란, 인간의 과학자는 아니고 컴퓨터가 연구 논문을 집필해, 그 중에서 가짜 인용이나 가상의 논문을 그럴듯하게 만들어 내는 것을 의미한다.
벨기에 겐트 대학의 컴퓨터 과학자 도미토리 코백 교수는 2024년 AI에 의한 문장 생성을 실시하는 LLM이 선호하는 키워드를 100만 건 이상의 생물의학 연구 논문에서 검색했다. 그의 팀은 지난해 12월까지 거의 90%의 논문에 AI의 흔적이 있다는 것을 발견했다. AI 검출 기술은 완벽하지 않고, 소프트웨어에 따라서는 1780년대에 쓰여진 미국 헌법을 'AI 생성'이라고 오인하기도 한다. 그러나 코백 교수는 AI가 이렇게 대규모로 사용되고 있는 것에 충격을 받았다고 한다.
이 교수는 네이처지에 대해 "LLM이 어떤 편견을 가지고 있어도 그것이 갑자기 (과학) 문헌 전체에 침투해 버린다"고 말했다.
코백 교수는 AI가 과학 잡지를 서서히 쇠퇴시키고 있다고 우려하는 많은 연구자 중 한 명이다.
이것은 중요한 일이다. 연구논문은 과학의 진보의 생명선이기 때문이다. 한 발견이 발표되면 세계의 다른 지역에 있는 다른 연구팀이 그 성과를 바탕으로 연구를 진행하기 위한 자금을 얻을 수 있을지도 모른다.
이미지 제공, Universal History Archive/Universal Images Group via Getty Images
발표 전 연구 논문을 다른 과학자가 심사하는 검토 과정도 손상되고 있다.
미국 스탠포드 대학의 웨이신 리안과 제임스 코끼리가 이끄는 팀은 주요 네 컴퓨터 과학 학회에 제출된 검토 보고서를 분석한 결과 텍스트의 최대 17%가 언어 모델을 사용하여 크게 수정되었음을 발견했다.
과학논문의 신뢰성을 확보하는데 있어서 필두 저자가 선행연구를 열거하고 자신의 연구가 진정으로 새로운 것으로 보여주는 것이 중요한 요소다. 이것은 따옴표로 불린다. 미국 코넬대학의 다른 연구팀은 연구자들이 AI를 사용하여 인용을 정리한 결과, AI가 가짜 연구를 만들어내고 있다는 것을 발견했다. 지난해에는 약 14만7000건의 가상의 연구가 인용되었다고 한다.
AI가 이와 같이 학술 과정의 건전성을 계속 왜곡한다면 연구자는 막혀 공적 자금을 낭비하고 신약이나 그린 테크놀로지 등 정당한 연구의 성과는 늦어지거나 전혀 실현되지 않게 된다.
'연구 수준의 AI'
엘제비아 등 일부 과학잡지 출판사는 이 심각화하는 신뢰 위기를 회피하기 위한 조치를 강구하고 있다.
엘제비아의 연구 윤리팀은 논문을 보다 면밀히 인간이 심사할 필요가 있다고 판단하는 약 100개의 지표를 개발했다. 네이처지는 AI 생성 화상의 사용을 금지하고, 검토자에게는 원고를 AI 시스템에 업로드하지 않도록 지시하고 있다. 또한 과학자가 초기 단계의 연구 성과를 공유하는 웹사이트 arXiv는 가상의 참고문헌을 제출한 연구자를 1년간 이용금지 처분으로 한다고 발표했다.
엘제비아 관계자는 연구에서 AI의 책임있는 이용 방법을 모색하고 있다. 부사장인 사라 메인 교수도 그 중 한 명이다. "우리가 '연구 등급 AI'라고 부르는 것은 연구의 주도권을 연구자가 계속 붙잡는 것에 주안을 두는 것이다"라고 메인 교수는 말한다.
이미지 제공, Daily Herald Archive/SSPL/Getty Images
AI 에이전트가 입자 가속기, 우주, 자연계에서 얻은 방대한 데이터를 처리할 때 AI의 작업이 확고하다고 우리에게 확증을 얻을 수 있을까?
그리고 또 다른 우려해야 할 점이 있다. AI 에이전트가 중요한 결과를 비정상값으로 간과하지 않는다면 어떻게 확신할 수 있습니까? 페니실린, 방사능, 그리고 펄서라고 불리는 이상한 별의 발견은 아무도 묵직하게 무시될 수 있는 이상한 결과로부터 태어난 것이었다. 인간의 직감에 의한 이러한 발견은 지난 세기에서 가장 위대한 과학적 사건이 되었다.
AI는 정말 우연한 발견이나 창의 궁리 같은 인간의 감각을 재현할 수 있을까?
구글 딥 마인드의 코리 교수는 AI에 등을 돌리는 것이 해결책이라고는 생각하지 않는다. "그것은 계산기를 사용하지 않고 계산해야한다고 말하는 것과 같습니다."라고 교수는 나에게 말했다. 그러나 인간에 의한 감시가 필요한 것은 교수도 인정하고 있다. "현재 AI 에이전트는 불완전하다. 누군가가 책임을 져야 한다".
코리 교수는 심플한 결정마다 준거하도록 연구자에게 호소하고 있다. "에이전트가 무엇을 했는지 이해하고 책임을 져야 한다. 문제를 지적하기만 하면 나머지는 기계에 논문을 쓰게 하고 그것을 진실로 제출하게 할 수 없다".
오스트리아에 있는 비엔나 바이오센터 안드레아 파울리 교수는 이 결정에 따라 연구를 진행해 왔다.
바울 교수는 정자가 난자에 어떻게 침입하는가 하는 지금까지 아무도 해명되지 않은 의문에 10년 가까이를 보냈지만, AI의 적절한 활용이 대답에 가까워지는 데 도움이 되었다. 파울리 교수의 연구실은 제브라피쉬의 난자 표면에 정자의 침입을 가능하게 하는 열쇠와 열쇠 구멍과 같은 메커니즘을 시사하는 단백질을 발견했다.
이 사례는 AI에 의한 '쓰레기'와 같은 연구가 범람하는 가운데 희망의 빛이 되는 것이다. AI는 도움이 될 수 있다.
이것은 인간에 관한 이야기이기도 하다. 내가 방문한 런던의 구시계 공장 유적지에 있는 연구소, 베이스캠프 리서치의 설립 직후, 공동 창설자의 빈스 교수는 백혈병으로 입원했다(현재는 회복하고 있다). 이 경험을 계기로 이 교수는 암 치료 가능성을 높이는 AI 시스템을 개발하겠다고 결의했다. "잘 작동하는지는 모르겠지만 시도해 볼 가치가 있다"고 교수는 말한다.
"우리는 기술적으로 실현 가능한 암 치료에 대한 길을 따라가고 있다"
이것은 빈스 교수의 약속이 아니라 방향성을 나타내는 것이다. 그렇다면 과연 AI는 그 방향성을 과학적으로 실현할 것인가, 아니면 그 기초가 되는 부분을 조용히 침식해 나갈 것인가. 그것이 큰 문제다.
(영어 기사 A bust-up between mathematicians is fuelling fears that AI could undermine science)
