[리뷰어클럽] AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다(한상기, 2024)

 'YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다'

 

AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다 (한상기, 2024)

 

 

 

 

AGI의 시대 - 예스24

https://www.yes24.com/Product/Goods/139591837

 

---

책  정보 

저자 : 한상기

제목 : AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다

출판사 : 한빛미디어

출간 연도 : 2024. 11.

페이지 :  312쪽

---

 

2022년 ChatGPT 3.5의 출시 이후 생성형 AI의 시계는 체감 할 수 없을 정도로 빠르게 흐르고 있습니다. 언젠가 먼 미래에나 나올 줄 알았던 영화 아이언맨의 '자비스'와 같은 인공지능의 등장이, 이제는 '예측할 수 있는 시간' 속에 포함되어 있네요. 머신러닝과 딥러닝, LLM과 멀티모달의 기술을 지나 이제 추론에 따라 계획과 요구사항을 실행하는 방식인 ReAct(Reasoning,추론 + Act,행동)를 기반으로 한 AI agent 가 현실화 되는 오늘날, '인간을 초월한 인공지능'인 AGI를 논하는 한빛미디어의 신간 'AGI의 시대'를 읽어봤습니다.

 

 

 

총 3부로 구성된 책은

• 1부 AGI의 시대
• 2부 얼라인먼트: 연구와 정책
• 3부 정책적 대응

으로 구성되어 있으며, 7개의 세부 챕터로 AGI의 시대가 도래함을 설명합니다. 

 

 

---

 

1부에서는 AGI 자체에 초점을 두고 AGI가 무엇인지를 중점적으로 설명합니다. 'AGI'에 대한 명확한 정의가 없는 현재, AI 과학자와 인지과학자등의 AI 전문가들과 기업인의 견해차이와 AGI 인해 발생한 논란 등을 언급합니다. 특히 AGI 도래에 대한 입장 차이를 파멸론자, 효과적 가속주의자, 효과적 이타주의자로 나누어 소개하는 부분이 AI와 AGI가 낯설 수 있는 독자들의 거리감을 줄이는 표현으로 인상 깊었네요.

 

2부에서는 얼라인먼트 기술과 현재 연구 방향, 앞으로 해야 할 일에 대해 설명합니다. '얼라인먼트'는 '인간이 원하는 일을 AI가 하도록 만드는 것'으로, '인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들 것인가?'로 설명할 수 있습니다. '고도로 발전된 AI가 왜 위험을 초래할 수 있는 가?'에 대해 의도, 명시적 의도와 암시적 의도를 파악하는 것의 어려움과 AI 모델 학습에 쓰이는 데이터의 편향으로 인한 가치관 왜곡 등을 설명하며 이를 대비하는 얼라인먼트 연구 행태와 주요 빅테크의 접근법을 설명합니다.

 

마지막 3부에서는 AI 안전문제에 대응하는 각 국의 정책과 국제 기구의 대처를 설명합니다. 미국과 유럽, 영국 등이 내세우는 거버넌스들을 소개하며 AI 리더쉽 쟁취를 위한 각 국가들의 경쟁과 충돌 가능성을 안내합니다.

 

 

---

 

책을 읽으며 좋았던 점은 1,2,3부의 각 섹션마다 해당 섹션을 정리하며 독자들에게 요점을 다시 한 번 언급하고, 다음 장에서 무슨 내용을 다룰 것인지 환기하는 부분 입니다.

 

책의 마지막, 저자는 이 책을 쓴 이유를 한 문장으로 정리합니다.

'미디어에서 혼란스럽게 떠도는 AGI 이야기를 명확하게 이해활 수 있도록 돕기 위함이며, 인간의 능력에 도전하는 AGI가 왜 문제가 될 수 있는지를 얼라인먼트라는 핵심 기술을 통해 설명하고자 했다.'

 

우리에게 다가올 미래, 예측 가능한 미래에 대해 '인간을 넘어서는' AI의 등장, AGI의 시대가 궁금한 모든 분들께 한빛미디어의 신작 'AGI의 시대' 일독을 추천합니다.

 

 

 

 'YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다'