AI 인물 열전 3

AI의 폭주 앞에 선 열두 명의 파수꾼
인간을 멸망시키지 않을 AI는 어떻게 만들 수 있을까?
결국 AI도 자본과 권력의 손에서만 움직이게 될까?

?2026년 9월, 앤트로픽을 떠난 한 연구원이 무거운 경고를 던졌다.
“오픈AI와 앤트로픽이 우리의 목숨을 걸고 도박하고 있다.”

그는 앞으로 10년 안에 AI가 인류를 멸망시킬 확률이 10퍼센트가 넘는다고 말했다. 며칠 뒤 앤트로픽의 CEO 다리오 아모데이는 안전 연구와 외부 검증이 따라올 수 있도록 프런티어 모델 개발의 속도를 조절하자고 제안했다. 샘 올트먼과 일론 머스크, 구글 딥마인드의 데미스 허사비스도 그 방향에 공감했다. 그러나 미국 정부는 중국과의 경쟁을 이유로 정부 차원의 제동에는 선을 그었다. 이제 질문은 더욱 선명해졌다. 누가, 언제, 어떤 기준으로 브레이크를 밟을 것인가.

『AI 인물 열전』 3권 〈AI의 안전망을 구축하는 사람들〉은 바로 이 질문 앞에 선 사람들의 이야기다.

프롤로그
브레이크를 연구하는 사람들

1부. 안에서 브레이크를 잡는 사람들

Chapter 1 다리오 아모데이(Dario Amodei)
? AI 헌법을 쓴 물리학자, 안전을 판매하다

Chapter 2 일리야 수츠케버(Ilya Sutskever)
? AI가 인류를 사랑하게 만들어야 한다

Chapter 3 얀 라이케(Jan Leike)
? 가장 안쪽에서 울린 경보

Chapter 4 스튜어트 러셀(Stuart Russell)
? 정렬의 학술적 원단을 짠, 가장 오래된 경고자

Chapter 5 엘리에저 유드코스키(Eliezer Yudkowsky)
? 극단적 파멸론의 선지자

Chapter 6 닉 보스트롬(Nick Bostrom)
? 두려움을 발명한 철학자, 이제 낙원을 꿈꾸다

Chapter 7 맥스 테그마크(Max Tegmark)
? 우주를 계산하던 물리학자, 경보 시스템을 만들다

Chapter 8 게리 마커스(Gary Marcus)
? “지금의 LLM은 결코 AGI로 가지 않는다”고 외친 내부 이단아

Chapter 9 팀닛 게브루(Timnit Gebru)
? “누구를 위한 안전인가?” 인종·데이터·제국의 축을 가져와 AI의 정의를 다시 쓴 사람

2부. 밖에서 규칙을 세우는 사람들

Chapter 10 리나 칸(Lina Khan)
? 법학 노트 한 편이 쏘아 올린 혁명

Chapter 11 마르그레테 베스타게르(Margrethe Vestager)
? 시골 목사의 딸, 빅테크 심판관이 되다

Chapter 12 헤나 비르쿠넨(Henna Virkkunen)
? ‘속도’와 ‘안전’을 같은 손에 쥔 현직 유럽연합 집행위원

에필로그
경보음이 울리는 동안에도, 내일의 경주는 시작된다

참고자료