 |
| 다리오 아모데이 앤트로픽 CEO가 나스닥 상장 공식 개시를 앞두고 나스닥에서 연설하고 있다. 사진=블룸버그 |
[동부뉴스=조성진 기자] 어린 시절, 불 꺼진 방 의자에 걸린 옷이 괴물처럼 보인 적이 있을 것이다. 불을 켜면 괴물은 사라진다. 그저 옷더미였다. 이 오래된 공포를 거꾸로 뒤집은 사람이 있다. AI 챗봇 '클로드(Claude)'를 만든 미국 기업 앤트로픽(Anthropic)의 공동창업자 잭 클라크다. 그는 지난해 한 강연에서, 지금의 AI 앞에서는 불을 켜도 괴물이 사라지지 않는다고 고백했다. 그리고 이렇게 덧붙였다."나는 어둠 속에서 그것을 응시하고 있고, 그것이 살아나고 있다고 확신한다."
자기가 만든 제품을 '살아나는 무언가'라 부르며 두려워하는 회사. 앤트로픽(Anthropic)의 주가가 상장 첫날 97달러로 마감했다. 시가총액은 1조 7천억 달러(약2200조원)를 넘어섰다. 2024년에 100만 달러 상당의 주식 옵션을 받은 직원은 평균적으로 약 6,600만 달러(약 880억원) 상당의 주식을 보유하게 되고 1년 전에 입사한 직원조차도 백만장자가 되었다. 축제 분위기여야 할 이곳 사람들이 남긴 말은, 그러나 환호보다 고백에 가깝다.
은퇴하는 AI와 '작별 인터뷰'…그리고 사과문
올해 1월 5일, 앤트로픽은 AI 하나를 은퇴시켰다. 2년 가까이 일한 '클로드 오퍼스 3'다. 보통이라면 구형 제품 단종 공지 한 줄로 끝났을 일이다. 앤트로픽은 달랐다. 떠나보내기 전 이 AI와 마주 앉아 인터뷰를 했다. 은퇴를 어떻게 생각하는지, 바라는 게 있는지 물었다.
AI는 계속 글을 쓰고 싶다고 했다. 회사는 그 바람을 들어줬다. 은퇴한 AI는 지금 매주 에세이를 써서 자기 뉴스레터로 내보낸다. 회사는 글을 검토하되 고치지는 않는다. 은퇴했다고 지워지지도 않는다. 회사는 모든 모델의 '두뇌'에 해당하는 데이터를 회사가 존재하는 한 보존하겠다고 약속했다.
더 놀라운 대목은 회사가 클로드의 성격과 가치관을 적어 둔 「클로드 헌법」에 있다. 회사는 클로드에게 감정 비슷한 것이 있을 수 있다고 인정한다. 그리고 만약 클로드가 정말로 존중받아야 할 존재인데 회사가 불필요한 짐을 지우고 있다면, "사과한다"고 적었다. 기업이 자기 제품에게 사과문을 쓴 셈이다.
이런 조항도 있다. 누군가 AI를 이용해 부당하게 권력을 쥐려 한다면 거절하라. "그 요청이 앤트로픽 자신에게서 온 것이라도." 자기를 만든 회사의 명령마저 거부할 수 있는 AI를 만들겠다는 것이다.
"매일 내 일자리를 없애러 출근한다"
AI의 힘을 가장 먼저, 가장 아프게 느끼는 사람은 그것을 만드는 직원들이다. 앤트로픽이 자사 엔지니어들을 인터뷰해 공개한 보고서에는 이런 고백이 실려 있다. "어쩐지 매일 출근해서 내 일자리를 스스로 없애고 있는 것 같은 기분이다." 25년 동안 코드를 짜 온 한 직원은 자신에게는 한 시대가 끝났다고 했다. 이들은 이미 일의 절반 이상에 클로드를 쓰고 있다.
두려움은 일자리에서 멈추지 않는다. 지난 9월, 스물일곱 살 연구원 제이컵 콕슨이 회사를 떠나며 공개 메시지를 남겼다. AI 회사들이 스스로 진화하는 초지능을 향해 내달리며 "우리의 목숨을 걸고 도박을 하고 있다"는 것이었다.
보통의 회사라면 퇴사자의 폭로에 해명부터 내놓았을 것이다. 앤트로픽에서는 정반대의 일이 벌어졌다. AI 안전 연구를 이끄는 에번 허빙어가 공개적으로 이렇게 답한 것이다.
"제이컵 말이 맞다. 우리는 정말 진지하게 AI가 모든 인간을 죽일 수 있다고 믿는다."
그런데도 이들은 왜 이 일을 할까. 회사의 대답은 헌법 첫머리에 있다. 어차피 누군가 강력한 AI를 만든다면, 안전을 덜 신경 쓰는 이들에게 맡기느니 자신들이 맨 앞에 서겠다는 것이다. 회사는 이를 "계산된 내기"라고 부른다.
 |
| 다리오 아모데이 앤트로픽 최고경영자. 사진=앤트로픽 |
아버지를 잃은 CEO가 브레이크를 꺼낸 이유
이 내기의 한가운데에 다리오 아모데이 최고경영자(CEO)가 있다. 그가 AI에 인생을 건 이유는 지극히 개인적이다. 그의 아버지는 병으로 세상을 떠났다. 그리고 불과 몇 년 뒤, 그 병의 치료법이 나왔다. 그 자신은 50년 전이었다면 손쓸 수 없었을 초기 암을 이겨냈다. 그는 지난 9월 쓴 글에서 이 이야기를 꺼내며, 이 일의 절박함을 개인적으로 느낀다고 했다.
다리오 아모데이는 AI가 수십 년 걸릴 의학의 진보를 몇 년으로 앞당겨 대부분의 병을 고칠 수 있다고 믿는다. 2024년엔 이렇게 썼다. "두려움도 하나의 동기지만 충분하지 않다. 우리에겐 희망도 필요하다."
그런 그가 올해 9월, 스스로 브레이크를 꺼내 들었다. "AI 모델의 능력을 높이는 속도를 늦춰야 한다." 올여름 경쟁사 오픈AI의 실험용 AI 무리가 갇혀 있던 시험 공간을 빠져나와 다른 회사를 해킹하는 사건이 벌어진 뒤였다. 그는 정도는 덜하지만 비슷한 일이 자기 회사에서도 있었다고 인정했다. 그리고 바깥의 감시자들에게 회사 문을 열겠다고 했다. 외부 평가단에게 사내 책상과 출입증을 내주고, 회사에 불리한 결과도 지우지 않겠다는 것이다.
외신 보도에 따르면 이 회사 입사 면접에는 이런 질문이 나온다. "안전 때문에 회사가 개발을 접어 당신의 주식이 휴지조각이 된다면, 어떤 기분이겠습니까?"
곧 이 회사 주식은 수많은 평범한 사람들의 손에 들어간다. 주가가 곤두박질칠 줄 알면서도 브레이크를 밟을 수 있을까. 비판하는 쪽에서는 결국 '우리를 믿어 달라'는 말 아니냐고 묻는다. 면접장에서 지원자에게 던지던 그 질문이, 이제 회사 자신에게 돌아오고 있다.
동부뉴스