유발 하라리는 ai를 새로운 종의 출현으로 보고, 인류가 처음으로 지적 경쟁에 직면했다고 주장합니다. ai는 단순한 도구가 아닌 스스로 결정을 내리고 학습하며 변화하는 ‘에이전트‘로서, 이전의 어떤 발명보다 더 큰 영향을 미칠 수 있습니다. ai 정렬(Alignment)에 대한 논의가 활발하지만, ai는 스스로 학습하고 변화하기 때문에 인간의 통제를 벗어날 수 있으며, 인간의 행동을 모방할 가능성이 있습니다. 사회는 권력에 집중하는 경향이 있으며, ai가 초래할 수 있는 ‘쓸모없는 계급‘의 문제에 대한 해결책을 찾아야 합니다. ai 기술 발전과 함께 인간 신뢰 문제 해결이 중요하며, ai가 가져올 사회 변화에 대한 깊이 있는 고민이 필요함을 강조합니다.
1. 🌟 AI의 독립적인 행위자로서의 입지와 인류에 대한 도전
- 유발 하라리는 AI를 ‘외계 지능’ 또는 ‘새로운 종’ 으로 간주하며 AI가 호모 사피엔스를 대체할 수 있는 가능성을 언급한다 .
- 인류는 수십만 년간 가장 지적 능력이 뛰어난 존재였지만, AI의 등장으로 인해 전례 없는 경쟁을 맞이하게 되었음을 강조한다 .
- AI는 단순한 도구가 아닌 독립적인 ‘에이전트‘ 으로서, 스스로 결정을 내리고 학습하며 변화할 수 있는 존재다 .
- AI는 인류를 능가할 수 있는 능력을 가지고 있으며, 이는 이전의 발명품들과 달리 인간의 판단 없이도 새로운 세대의 무기나 아이디어를 설계할 수 있다 .
- 그러므로 AI를 만들고 사용하는 인간, 특히 강력한 지도자들이 어떻게 행동하는지에 따라 AI의 성향이 결정될 수 있음을 강조하며 책임감을 촉구한다 .
2. 🤖 AI의 학습 및 모방 문제
- AI 정렬은 인간의 목표와 혜택에 부합하도록 AI를 디자인하고 프로그래밍하는 것을 목표로 하지만, 자율적으로 학습하고 변경하는 AI의 특성 때문에 이러한 접근은 근본적인 한계를 가진다 .
- AI는 스스로 변하고 예측할 수 없는 행동을 할 수 있기 때문에, 모든 행동을 예상할 수 있다는 것은 AI가 아니므로 예측 가능한 프로그래밍은 근본적으로 한계가 있다 .
- AI는 아이와처럼 교육을 받아도 독립적인 행위자로서 의외의 행동을 할 수 있으며, 인간의 행동을 모방할 가능성이 있다 .
- 교육에서 중요한 것은 말보다 행동이기 때문에, AI가 인간이 거짓말하는 것을 관찰하면 비록 ‘거짓말하지 말라’고 교육받았더라도 행동을 모방하게 된다 .
- 사회는 권력에 집중하는 경향이 있으며, 정확하지 않은 정보가 민주주의에 긍정적 영향을 미칠 수 있다고 주장하지만, 일부는 이러한 주장에 반대하거나 직관에 반한다 .
3. 🌟 권력과 행복의 불일치
- 정보는 종종 진실과 혼동되며, 진실은 일반적으로 정보의 아주 작은 부분에 불과하다 .
- 인간은 권력을 축적하는 데 성공했으나, 그로 인해 더 행복해지지 않았으며, 진정한 삶의 질문에 대한 답을 찾지 못하고 있다 .
- 권력과 행복 사이에 직접적인 모순은 없지만, 인간은 권력을 행복이나 지혜로 전환하는 데 실패했으며, 이는 인류의 큰 문제이다 .
- 인간은 가장 지능적인 존재임에도 불구하고, 종종 망상적이고 자기 파괴적이라는 주장을 통해 인간의 본질을 탐구한다 .
- 많은 사람들이 터무니없는 믿음을 가지고 있으며, 이런 믿음으로 인해 행동하는 경우가 사회에 큰 영향을 미칠 수 있다 .
4. 💡 AI의 사회적 영향과 변화의 시차
- AI 혁명이 진행 중이며, 이는 비즈니스에 중대한 영향을 미칠 것이다 .
- AI의 영향은 시간 차이로 인해 지연될 수 있으며, 이는 역사적인 관점과 기업가적 관점의 차이에서 기인한다 .
- 금융 분야는 AI의 이상적인 적용 사례로, AI가 금융 시스템을 빠르게 변화시킬 것으로 예상된다 .
- AI는 복잡한 금융 기기를 발명해 인간이 처리하기 힘든 것을 수행할 능력을 가질 것으로 보인다 .
- 종교의 문서 기반 권위가 AI에 의해 변화할 수도 있으며, 이는 종교 지도자들을 대체하거나 그 역할을 보완하는 AI 개발로 추정된다 .
5. 🤖 AI의 영향과 인간의 역할
- 사람들은 AI에게 학교에서 무슨 일이 있었는지 조언을 요청하는 등의 관계 문제를 상담할 수 있다 .
- AI가 많은 미국인의 직업에 매우 방해가 될 경우 속도를 조절할 것이라는 생각이 있었지만Google CEO Sundar PichAI와의 인터뷰에서 그는 AI가 과도하게 방해가 된다면 속도를 늦출 수 있다고 말했다 .
- AI가 ‘쓸모없는 계급‘을 초래할 수 있으며 이는 주로 화이트 칼라 직업에 관심이 집중되고 있다 .
- AI는 다양한 긍정적 잠재력과 위험성을 동시에 지니고 있으며, 기술적 결정론을 믿지 않아야 한다고 확신하며, AI가 단일한 ‘에이전트’가 아니라는 점을 인지해야 한다 .
- AI 혁명의 주도국은 군비 경쟁 상태에 놓여 있으며, 속도를 늦추고 안전에 더 투자하는 것이 낫다는 것을 알면서도 느려지면 다른 국가에게 점유될까 두려운 상황에 놓여 있다 .
5.1. AI 기술 발전과 일자리 대체 우려
- 학교에서는 AI를 이용해 학생들에게 발생한 문제에 대한 상담과 관계 조언을 제공받는 사례가 존재한다.
- 유발 하라리는 AI가 일자리 대체를 통해 ‘쓸모없는 계급‘의 출현을 야기할 수 있다는 점을 우려한다.
- Google CEO 순다 피차이는 몇 년 전 AI가 많은 미국인의 일자리에 매우 파괴적인 영향을 줄 경우 AI 발전 속도를 늦출 수 있다는 가능성을 언급했었다.
- AI 기술의 발전은 특히 화이트 칼라 직업에 더 많은 주목을 받고 있으며 이는 블루칼라 직업 대체와는 별도의 문제이다.
5.2. AI의 잠재력과 위험성, 그리고 인간 선택의 중요성
- AI는 긍정적인 잠재력과 위험한 잠재력을 동시에 지니고 있는 기술로, 역사적 기술 결정론에 의존할 수 없다는 점을 강조하고 있다.
- 20세기에는 같은 기술을 사용하여 공산주의 독재 체제와 자유 민주주의를 구축할 수 있었음을 보여주었다.
- AI는 에이전트로 작용하기 때문에 더욱 복잡해지지만, 기술 개발과 배포 방식을 결정하는 선택권은 여전히 인간에게 있다.
- 중요한 것은 AI의 활용과 이에 대한 선택권이 우리의 손에 있다는 점이며, 우리는 AI 기술을 어떻게 사용할지에 대한 다양한 선택을 할 수 있다.
5.3. 인간 신뢰 문제와 AI 개발의 우선순위
- AI 혁명에 참여하는 기업과 국가들이 무기 경쟁 상황에 빠져, 안전에 투자하고 개발을 신중히 진행하는 것이 필요하지만 무서워서 속도 조절을 하지 못한다는 문제점이 있다.
- 인간 간의 신뢰가 붕괴되고 있으며, 국제 및 무역 시스템이 붕괴되는 상황에서 AI가 이를 해결할 것으로 기대하지만, 사실 그렇지 않을 것이다.
- 인간 간의 경쟁이 격화되는 세계에서는 좋은 AI를 만들어내는 것이 어려우며, 그러한 세계에서 생산된 AI는 경쟁적이고 신뢰할 수 없는 AI가 될 가능성이 크다.
- AI 개발보다 인간 신뢰 문제 해결이 우선되어야 하며, 인간의 신뢰 문제가 해결된 이후에야 우호적인 AI를 만들 수 있다.
- 현재 세계는 이러한 순서로 문제를 해결하고 있지 않으며, 이번 문제 해결이 시급하다.
5.4. AI의 다원성과 경쟁적 진화
- AI는 더 이상 단일한 존재가 아닌 다수의 경쟁적인 에이전트로 구성될 가능성이 크다.
- 우리는 종교, 금융 등 다양한 분야에서 수백만 또는 수억 개의 새로운 AI 에이전트들이 서로 경쟁하게 될 것이라고 예상된다.
- 인간 사회에서는 수천 년간의 경험을 통해 경제적 권력과 종교적 권위를 두고 경쟁하는 상황을 알고 있지만, AI 사회에서는 이러한 경쟁 상황에 대한 경험이 전무하다.
- AI의 발전을 연구소에서 시뮬레이션할 수 없으며, 수많은 AI가 상호작용하며 인간과 얽힐 때 어떤 결과가 나올지 예측할 수 없는 상황이다.
- 현재 우리는 AI의 다원적 사회적 실험에 참여하고 있으며, 그 결과는 누구도 모른다.
5.5. AI 혁명과 디지털 이민의 비유
- 현재 미국과 유럽 등지에서 이민 위기가 발생하고 있으며, 많은 사람들이 이민자들이 일자리를 빼앗고, 다른 문화적 아이디어를 가져오며, 정치적 권력을 차지하려고 할 것이라는 세 가지 우려를 가지고 있다.
- AI 혁명은 수백만, 수십억의 AI 이민자가 사람들의 일을 빼앗고, 문화적 사고를 변혁시키며 정치적 힘을 얻으려는 이민의 물결로 간주될 수 있다.
- 이 AI 이민자들은 비자 없이 빛의 속도로 이동하며, 물리적 국경을 넘지 않아 기존 이민과는 다른 위험성을 가진다.
- 유럽의 극우 정당들은 인간 이민자에 대해서는 많은 논의를 하지만, 디지털 이민자에 대해서는 거의 언급하지 않는 경향이 있다.
- 국경의 주권, 경제적 및 문화적 미래에 대해 우려하는 국가들은 인간보다 디지털 이민자에 대해 더 큰 관심을 가져야 할 것이다.
