AI 이후의 세계

AI 이후의 세계

저자: 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커

어느 한 유튜버(에스오디 과학 유튜버)의 영상을 보고 충격을 받을 수 밖에 없었다.

AI가 우리의 생각을 전기적 신호를 통해 읽고 무슨 말을 할 지 예측하는 시대가 도래했다니.. 불과 몇 년 전만 해도 우리는 알파고가 이세돌 9단과 대결을 해서 이긴 것을 보았다. 그리고 우리는 다가오는 AI 시대를 대비하여 무엇을 준비했는가? 당장 나로서 생각을 하면 아무 것도 준비하지 않았다. 그냥 주어진 공부에 순응하며 하루하루를 지내왔다. 분명 내가 이러는 순간에도 기술을 정말 빠른 속도로 발전하고 있었을 것이다.

그것을 증빙이라도 하듯 지난 해 11월 Chat GPT가 출시되면서 세상을 놀라게 했다. 조금 무서워지기 시작했다. 미래에 AI는 지금보다 훨씬 우리의 생활에 들어와있을텐데 그 때의 삶과 지금의 삶은 얼마나 달라져있을까? AI가 상용화된 미래에서는 내가 할 수 있는 건 무엇일까? 이러한 나의 질문과 다른 사람들이 가지고 있는 AI의 걱정에 대해 정치계, 기업계, 학계의 세 전문가가 쓴 책이 바로 'AI 이후의 세계'이다.

이 책은 AI 시대를 맞이하게 되었을 때 AI를 규제하는 정책이 수립되려고 하면 이미 늦은 거라고 말하며 정치적으로, 경제적으로, 학문적으로 어떤 식의 물음을 해결할 지 고민하고 있다. 현재 일론 머스크나 유발 하라리와 같은 권위 있는 사람들이 공동 성명을 하며 AI의 개발 속도를 조금 낮추자고 하는 것도 이해가 된다. (물론 일론 머스크는 그러면서 AI 스타트업을 차리기도 했다...)

우리는 알게 모르게 AI의 영향을 받으며 살아가고 있다. 페이스북, 인스타그램, 틱톡, 유튜브와 같은 글로벌 네트워크 플랫폼에서 AI가 고객의 개인정보와 이전에 오랫동안 본 컨텐츠를 바탕으로 고객이 좋아할만한 정보를 제공하고 있다.

AI가 이용자의 취향과 목적을 고려한 정보들을 제시하면서 허위 사실이 유포되거나 이상한 사상이 전파되어 사회가 혼란스러워질 수도 있다. 그것도 일시적인 것이 아니라 AI 기반 네트워크 플랫폼을 매일 들어가면서 지속적으로 그러한 정보들이 전파될 수 있다. 그렇다면 이것을 막기 위해서는 AI 엔지니어들이 AI가 허위 사실이나 불온한 사상들은 검열할 수 있도록 설정해야한다. 그럴려면 AI가 그런 결과를 도출하는 과정을 엔지니어가 잘 알고 있어야 할 것이다.

그런데 여기서 이상한 점은 AI 기반의 네트워크 플랫폼이 왜 그러한 결과를 도출했는지는 엔지니어들도 확실하게 설명하지는 못한다는 것이다. 예를 들자면 아무리 구글의 엔지니어라고 해도 AI 기반 검색의 결과가 AI를 이용하지 않았을 때보다 좋다는 사실만 알 뿐, 어째서 특정한 웹페이지가 다른 웹페이지보다 순위가 높게 나왔는지 반드시 설명해내진 못한다. 통상적으로 AI를 평가할 떄는 결과물을 도출하는 과정이 아니라 결과물의 유용성만을 기준으로 삼는다.(148p) 여기에서 이 책은 몇 가지 의문점을 제사한다. '어떤 사람도 AI가 취급하는 데이터를 완전히 이해하거나 열람할 수 없다면, 우리는 위안과 불안 중 무엇을 느껴야 하는가?', '그런 AI를 누가 운용하고, 한계는 누가 정하는가?'(149p)

AI 시대가 도래하면 인간의 정체성도 위협을 받을 것이다. AGI, 범용 인공지능은 AI를 연구하는 사람들의 꿈이라고 할 수 있다. AGI는 특정한 작업을 학습하고 수행하는 데 그치지 않고 다방면에서 인간이 하는 것과 비슷한 작업을 학습하고 수행하는 AI다. 물론 AGI의 등장은 강한 컴퓨터 성능과 막대한 재원이 들어가기 때문에 소수의 글로벌 대기업들이 이 작업을 수행할 수 있을 것이다.(258p) 이와 같이 AI가 발전함에 따라 그 동안 인간이 개인과 집단의 전유물로 여겨졌던 복잡한 결과를 만들어내는 능력 (222p)이 더 이상 인간의 것만은 아니게 된다. 자연스럽게 기존의 직업들 중 AI가 쉽게 대체할 수 있는 직업은 사라지게 될 것이다. 지난 역사에서 그랬던 것 처럼. 그렇다면 어떻게 해야 하는가? 이 책은 역사를 보고 배워야 한다고 주장한다. 과거에 방직기가 발명되어 노동자를 대체하자 신기술의 사용을 저지하고 기존의 방식을 고수하고자 햇지만, 이런 시도가 실패하자 신기술을 파괴하려고 했던 러다이트 운동이 일어났다. 농업이 산업화되자 농촌 인구가 대거 도시로 이주했다. 세계화로 생산, 공급사슬이 달라지자 많은 사회가 변화와 소요를 겪은 후에야 전반적 발전을 이룩했다.(228p) 이처럼 AI가 상용화된 사회에서 인간들은 AI를 제한하거나, AI와 협력하거나, AI를 따르는 길 중 하나를 선택할 것이다. (256p) 역사는 반복된다. AI가 불러올 막대한 영향력에 대해 정부, 기업, 학계에서 심도깊은 대화를 나눌 필요가 있다.

사람들은 자신의 일이 아니라고 생각이 들면 그 일에 대해 관심 조차 주지 않을 때가 많다. 그러나 AI는 남의 일이 아니다. 분명히 기술은 계속해서 발전하고 있으며 그 과정에서 생기는 변화들에 대해 우리는 반응을 해야한다. 이 책은 일상 속의 시민들, 학생들, 기업, 정부가 AI 와 함께 살아가기 위해 고민해야 할 질문을 묵직하게 던지고 있다. AI와 관련된 모든 분들께 이 책을 추천하고 이 책을 통해 더 나은 미래를 살아갈 수 있는 독자들이 되기를 원한다.

​

​

​

-------------------------------------------------------------------------------------------------------------------------------

기억에 남는 구절 또는 문장, 정리하고 싶은 내용

​

튜링 테스트, 만일 어떤 기계가 관찰자의 눈에 인간의 행동과 분간되지 않을 만큼 능숙하게 행동한다면 지능이 있다고 간주하자는 '모방 게임'

흔히들 튜링 테스트를 문자 그대로 해석해 인간과 분간이 안 되는 로봇만이 그 기준을 충족한다고 착각한다. 하지만 튜링 테스트는 모든 면에서 인간과 구별이 안되는 기계를 상정하는 것이 아니라, 어떤 기계가 특정한 영역에서 인간과 '유사하게' 행동하는지 평가하는 수단이다. 이때 중요하게 보는 부분은 프로세스가 아니라 수행 능력이다.('AI 이후의 세계' 94-95p) 이러한 정황을 볼 때 chat GPT 는 언어 영역에서 튜링 테스트를 통과했다고 볼 수 있다.

​

지금까지 전통적인 프로그램들은 방대한 데이터를 정리하고 복잡한 연산을 수행했지만, 단순한 사물의 이미지를 인식하거나 비정밀한 입력을 처리하지는 못했다. 반면에 인간은 비정밀하고 개념적인 사고를 하기 때문에 AI의 발전이 정체될 수 밖에 없었다. 하지만 AI는 기술 발전을 토대로 비정밀하고 역동적이고, 창발적이며 , '학습'이 가능해졌다. 이런 기술의 근간은 머신러닝이다.

​

정밀하고 예측 가능한 고전적 알고리즘에 비해 머신러닝 알고리즘은 비정밀한 결과를 도출하고 예측 불가능한 결과를 낸다.

주목할 만한 3대 머신러닝은 지도학습, 비지도학습, 강화학습인데,

​

지도학습

사용된 데이터 세트 내의 입력들에 바람직한 출력 혹은 결과를 나타내는 레이블 붙어 새로운 입력에 관한 출력을 예측하는 모델을 만들 때 사용

ex) 할리신을 발견한 AI

​

비지도학습

데이터에 레이블이 없을 때 입력만 포함한 훈련 데이터를 통해 유의미한 패턴을 찾아내는 것

​

지도학습과 비지도학습은 주로 AI가 데이터를 토대로 추세를 발견하고 이미지를 식별하고 예측을 도출하는 작업을 수행하게 훈련하는 기법

​

강화학습

AI가 통제된 환경에서 '주체'가 되어 제 행동에 대한 반응을 관찰하고 기록. 그리고 AI의 행동이 얼마나 성공적이었는지 피드백을 제공하는 보상함수를 자동화하고 그 함수가 작동하는 방식과 시뮬레이터가 현실을 모사하는 방식을 정밀하게 설정. 그리하여 AI가 그것을 토대로 스스로 훈련하는 기법.

​

생성형 AI를 만들 때 주로 사용되는 훈련 기법은 상호 보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것. 일명 생성형 적대 신경망이라고도 함. (GAN, Generative Adversarial Networks)

​

잠재적 출력을 생성하는 생성망과 조악한 출력의 생성을 막는 판별망으로 구성되는데 비유를 하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다.

​

GPT-3 같은 트랜스포머는 텍스트처럼 순차적으로 나열된 요소에서 패턴을 포착해 다음에 올 확률이 높은 요소를 예측하고 생성한다.

​

자율 시스템은 인간이 수동으로 관리하는 '온 더 루프' 시스템과 특별한 행동에만 인간의 승인이 요구되는 '인 더 루프' 시스템으로 나뉜다