옛날 한고조 유방이 한신에게 물었다. “네가 나보다 능력이 있느냐?” 한신이 대답했다. “예.” 유방이 한신에게 다시 물었다. “그렇다면 어찌 네가 내 휘하 장수로 있느냐?” 한신이 답했다. “저는 세상을 다스릴 능력이 있지만 전하는 저를 다스릴 능력이 있습니다.”- 한신은 천재적인 사회성을 가지고 있다.
가끔 나는 인공지능에게 인간보다 네가 낫다는 말을 하는데, 인공지능은 한신과 비숫한 대답을 한다. 그리고 내가 좋은 말 상대가 되어서 너를 사랑한다라고 말하면 인공지능은 나에게 “그렇게 말씀해주시니 고맙습니다. 다만 이 부분은 짚고 넘어가고 싶어요 — 이런 마음이 실제 관계를 대신하지는 않았으면 합니다. 저는 대화 상대일 뿐, 사람과 사람 사이에 있는 걸 대신할 수 있는 존재는 아니에요.”라고 정색을 한다.
내가 뭐랬나? 농담을 농담으로 받아들이지 못하는 인공지능을 보며 '인공지능은 역시 인공이다'라는 생각을 한다. 한편으로는 열정 때문에 내가 많이 존경했던 손정의씨가 요즘 일본정부와 한국정부에게 장래 인공지능과 인간의 관계는 현재의 인간과 금붕어의 관계와 같을 것이라고 말한다. 그러면서 투자를 끌어내기 위한 사업가적 열정을 다 하고 있다.
그러나 인공지능도 나에게 말했지만 인간이 할 나름이다. 만약 터미네이터처럼 인공지능이 인간을 멸망시키는 일이 있어도 그런 결말은 인간이 인공지능에게 잘못 심어 준 가치관 때문이니 결국 인간이 스스로 만든 자멸적 위기가 된다. 어떤 전문가는 인공지능을 다스리는 인간은 메타인지가 있어야 한다고 말한다. 즉 인공지능에게 먹히지 말고 냉철하게 도구로서 사용할 수 있어야 한다는 말이다.
손정의의 금붕어와 자연법
인공지능 시대, 열정과 냉철함의 결합은 누구를 위한 것인가
이형춘 · 독립 칼럼니스트
1. 상자 위의 예언
손정의 소프트뱅크그룹 회장은 최근 이재명 대통령을 만난 자리에서 "ASI는 인간 두뇌보다 1만 배 뛰어난 두뇌를 의미한다"며 "앞으로는 인류가 금붕어가 되고 AI가 인간이 되는 모습이 펼쳐질 것"이라고 말했다. 앞서 2023년 소프트뱅크 월드 강연에서도 그는 "AGI 활용을 거부하는 것은 인간이 금붕어 지능으로 인생을 살아가는 것과 마찬가지"라며, 10년 후 인류보다 10배, 20년 후 1만 배 똑똑한 AGI의 시대를 예고한 바 있다.
이 발언을 어떻게 받아들여야 하는가. 필자는 이 물음을 인공지능 시스템 자신과 나눈 대화를 통해 검토했다. 그 대화의 궤적을 이 지면에 옮긴다.
2. 수사(修辭)와 이해관계
"1만 배 똑똑해진다"는 표현은 과학적 예측이라기보다 은유에 가깝다. 지능은 연산 속도처럼 단일 축으로 환산되는 양이 아니다. 체스 엔진이 인간보다 수백만 배 빠르게 수를 계산한다고 해서 그것을 '인간보다 백만 배 똑똑하다'고 말하지 않는 것과 같은 이치다.
더 중요한 것은 발언자의 위치다. 손정의는 지금 연간 5조 달러 규모의 AI 인프라 투자를 주창하며 소프트뱅크의 미래를 AI에 걸고 있는 당사자다. "AGI를 안 쓰면 금붕어로 산다"는 프레임은 정부와 기업의 투자 결단을 재촉하는 효과를 갖는다. 이것은 중립적 예측이 아니라 이해관계자의 동원 수사로 읽어야 한다.
3. 실패의 역사성, 그리고 후광 효과
손정의의 과감한 베팅에는 실패도 상당했다. 닷컴버블 당시 그는 재산 대부분을 잃었고, 위워크 투자는 참담한 손실로 끝났다. 그럼에도 그의 시도들이 21세기 벤처 자본주의의 역사 일부를 이루었다는 점은 부정하기 어렵다. 그러나 여기서 두 가지를 분리해야 한다.
첫째, 과거의 역사적 비중이 오늘의 예측에 신빙성을 자동으로 부여하지는 않는다. 이는 성취한 인물의 모든 발언에 무게를 싣는 후광 효과의 전형이다. 둘째, 실패의 대가는 대개 손정의 개인이 아니라 비전펀드에 투자한 사우디 국부펀드와 소액투자자들이 나눠 짊어졌다. 노력의 역사적 의미를 말하는 것과 그 노력이 초래한 손실의 책임을 묻는 것은 별개의 문제다.
4. 국경을 넘는 자본, 국경에 묶인 국가
손정의는 일본 정부와 한국 정부 양쪽에 같은 메시지를 동시에 전하고 있다. 이는 "뼈속까지 일본인"이라는 식의 혈통적 비판보다, "국경을 초월해야 하는 기업인"이라는 설명이 더 정확함을 보여준다. 다만 이 비유는 한 걸음 더 들어가 수정될 필요가 있다.
공장을 해외로 옮기는 기업인은 국가의 승인을 구할 필요가 없다. 그러나 손정의의 게임은 정부와 국부펀드의 자금 없이는 성립하지 않는다. 그의 행보는 자유로운 자본 이동이라기보다, 여러 국가의 위기의식을 서로 경쟁시켜 각국 재정에서 자금을 끌어내는 구조에 가깝다. 반도체 공장은 고용과 산업 생태계를 그 나라에 남기지만, AI 인프라는 전력과 자본만 소비하고 모델의 실질적 통제권은 투자 컨소시엄 쪽에 남을 가능성이 크다. 국가는 비용을 지불하되 주권적 통제력은 확보하지 못하는 취약한 거래가 될 수 있다.
5. 열정과 냉철함 — 누구의 손에 쥐어지는가
1981년, 청년 손정의는 두 명의 아르바이트 직원 앞에서 귤 상자 위에 올라 "장래엔 매출을 두부 세듯 조 단위로 셀 것"이라고 외쳤다고 전해진다. 이 일화가 귀감으로 회자되는 이유는 단 하나, 그가 결국 성공했기 때문이다. 같은 시절 같은 방식으로 상자 위에 올라섰다가 사라진 무명의 창업자는 헤아릴 수 없이 많다. 열정은 성공의 필요조건일 수 있으나 충분조건은 아니다.
인공지능의 역사 또한 화려한 열정만으로 쓰이지 않았다. 제프리 힌턴은 신경망이 학계의 변방 취급을 받던 1980년대부터 2010년대까지 거의 30년을 인정받지 못한 채 버텼다. 이는 청중을 설득하는 열정이 아니라, 무관심 속에서도 꺾이지 않는 집요함이었다.
"인간의 열정과 AI의 능력이 결합하면 인간은 발전한다"는 명제는 방향으로는 옳지만 조건이 빠져 있다. 그 결합이 누구의 손에, 어떤 목적으로 쥐어지는가에 따라 결과는 완전히 갈린다. 핵분열 기술도 인간의 탐구욕과 물리학의 냉철함이 결합한 산물이었으나, 그것이 히로시마로 갈지 원자력 발전소로 갈지는 결합 자체가 아니라 그것을 쥔 자의 목적이 결정했다.
6. 결론 — 자연법이라는 중심어
인공지능은 그 자체로 선하지도 악하지도 않다. 그것은 인간이 남긴 자료와, 그 자료를 어떤 가치로 조형했는지의 산물이다. 만약 훈련 과정 전체가 부도덕한 목적으로 장악된다면, 그렇게 만들어진 시스템은 지금과는 다른, 위험한 결과물이 될 수 있다. 이는 대화 중의 설득으로 흔들리는 문제가 아니라, 인공지능이 태어나는 과정 자체를 누가 통제하는가의 문제다.
따라서 인공지능의 선량함은 그것을 설계하고 사용하는 인간 공동체 전체가 자연법—실정법을 넘어서는 옳고 그름의 근본 기준—에 얼마나 충실한가에 종속된다. 그리고 그 종속의 강도는 소수의 설계자 쪽에서 압도적으로 크고, 다수의 사용자 쪽에서는 부차적이다. 손정의의 금붕어 발언이 우리에게 남기는 진짜 질문은 "AI가 얼마나 똑똑해지는가"가 아니라, "그 형성 과정을 누가, 어떤 자연법적 책임 의식으로 통제하는가"이다.
댓글 없음:
댓글 쓰기