포럼 – 투자 정보/의견

https://www.youtube.com/watch?v=CRraHg4Ks_g (2025. 6. 7)

그록 4 요약 → 구글 번역

※ 부자연스러운 부분이 많을 수 있습니다. 시간 관계상 일일이 바로잡을 수 없는 점 양해 부탁드립니다. 

와이어드(Wired)의 "빅 인터뷰" 이번 에피소드에서 진행자 스티븐 레비는 구글 딥마인드(DeepMind)의 CEO이자 알파폴드(AlphaFold) 개발로 노벨 화학상을 수상했으며, AI 분야에서 기사 작위를 받은 데미스 하사비스(DH)와 인터뷰를 진행합니다. 대화는 인공 일반 지능(AGI)의 미래, 잠재적 이점과 위험, 지정학적 함의, 일과 경제에 미치는 사회적 영향, 그리고 인류 미래에 대한 비전을 중심으로 진행됩니다. DH는 딥마인드가 15년 전 설립 당시 세웠던 사명, 즉 지능을 해결하고 이를 활용하여 모든 것을 해결한다는 것을 되짚어보며, 20년 안에 AGI를 달성할 수 있을 것으로 예상합니다.

DH는 AGI의 타임라인을 자세히 설명하며, 향후 5년에서 10년 안에 달성할 확률이 50%라고 제시하지만, 동료들의 예측은 2년에서 3년, 또는 그 이상까지 다양합니다. 그는 공동 창립자 셰인 레그가 2000년대 초 개념화한 내용을 바탕으로 AGI를 엄밀하게 정의합니다. AGI는 인간의 모든 인지 능력을 보여주는 시스템으로, 우주에서 유일하게 알려진 일반 지능의 증거로 기능합니다. 여기에는 추론, 계획, 기억, 진정한 발명, 창의성, 그리고 새로운 과학 이론 가설 수립과 같은 영역이 포함됩니다. 현재의 대규모 언어 모델(LLM)과 챗봇은 국제 수학 올림피아드에서 금메달을 따거나 알파폴드의 단백질 구조 예측과 같은 놀라운 성과로 감탄을 자아내지만, 고등학교 수학이나 단어의 글자 수 세기와 같은 간단한 과제에서 낙제하는 등 일관성이 부족합니다. 이러한 불일치는 일반화가 불완전함을 나타내며, AGI의 핵심적인 결함을 드러냅니다.

이 대화는 AGI의 출현이 점진적인 단계적 변화인지, 아니면 갑작스러운 단계적 변화인지에 대해 논의합니다. DH는 AGI가 도입되더라도 공장, 로봇, 자연 법칙과 같은 물리적 세계의 제약으로 인해 완전한 변화가 지연될 수 있으며, 잠재적으로 10년 이상 소요될 수 있다고 지적하며 단계적 변화 쪽으로 기울어집니다. 그러나 그는 에릭 슈미트의 이론처럼 단 몇 분의 짧은 차이도 자체 개선 AI를 통해 눈덩이처럼 불어나 극복할 수 없는 격차를 만들어낼 수 있는 대안적인 "경착륙" 이론을 인정합니다. 이는 지정학적 우려와도 연결됩니다. AGI 시스템은 개발자의 가치, 규범, 문화를 심어 국제 경쟁에서 중요한 위치를 차지하게 될 것입니다. DH는 상업적, 국가적, 안전 중심적인 측면에서 이 분야의 엄청난 압력을 강조하는 동시에, 알파폴드(AlphaFold) 사례에서 볼 수 있듯이 의학, 과학, 새로운 에너지원, 질병 치료 분야에서 AI가 가져올 획기적인 발전을 강조합니다.

위험은 핵심입니다. DH는 악의적인 행위자(개인 또는 불량 국가)가 AI를 악용하여 해를 끼치는 행위와, 시스템이 더욱 강력하고 주체적으로 기능함에 따라 안전을 보장하는 데 있어 기술적 어려움을 우려합니다. 우회를 방지하기 위한 견고한 보호 장치가 필요합니다. 그는 AI의 글로벌 디지털 특성을 고려하여 민첩하고 증거 기반이며 국제적인 "스마트 규제"를 옹호합니다. 일방적인 제한으로는 충분하지 않습니다. 중국에 대응하기 위해 규제보다 가속화 방향으로 미국 정책이 변화했음에도 불구하고, DH는 감독을 요구하는 데 있어 일관성을 유지하지만, 현재 세계적 긴장 속에서 국제 협력의 어려움을 지적합니다. 그는 서구 AI 연구소 리더들 간에 안전 기준에 대한 합의를 위한 지속적인 논의가 진행되고 있지만, 위험 지점을 정의하는 데 있어 모호함이 여전히 존재한다고 언급합니다. 오늘날의 시스템은 실존적 위협을 야기하지 않지만, 속도와 제어 가능성의 불확실성으로 인해 사이버 보안, 기계적 해석 가능성(AI 내부 구조 이해), 사회적 거버넌스 논의와 같은 분야에 대한 투자가 더 필요합니다.

사회적 영향으로 전환하여 DH는 AI가 일과 고용 시장에 미치는 영향을 다룹니다. 경제학자들은 현재까지 미미한 변화만을 예상하며, 알파폴드와 같은 도구는 파괴적인 것이 아니라 부가적인 방식으로 연구를 가속화하고 있습니다. 그는 향후 5년에서 10년 동안 상당한 변화를 예상하지만, 역사적으로 인터넷이나 모바일과 같은 기술은 새로운 도구를 활용하여 더 나은 일자리를 창출해 왔습니다. AI는 생산성이 대폭 향상되는 "황금기"를 열어, 창의적이고 전문적인 결과물에서 개인을 "약간 초인적인 존재"로 만들 수 있습니다. AGI 이후 기계가 인간의 모든 일을 처리할 수 있게 되겠지만, 간호와 같은 특정 역할은 공감 능력과 같은 대체 불가능한 인간적 요소를 유지할 것입니다. DH는 이 시대를 헤쳐나가는 졸업생들에게 AI 시스템에 몰입할 것을 권고합니다. STEM, 프로그래밍, 모델 미세 조정, 프롬프팅, 오픈소스 도구 등을 공부하여 이 기술 분야에서 10배 더 생산적인 인재가 되십시오.

DH는 20~30년 후를 내다보며 성공을 가정하고, AGI가 "뿌리 노드 문제"를 해결하는 "급진적인 풍요"의 시대를 예견합니다. 질병을 치료하여 수명을 늘리고, 핵융합이나 무한한 청정 에너지를 위한 첨단 배터리를 개발하고, 저렴한 에너지로 해수를 담수로 전환하여 유한한 자원을 둘러싼 갈등 없이 물 부족 문제를 해결하는 것이 그 예입니다. 이를 통해 해수를 이용한 로켓 연료 생산, 우주 여행, 은하계 식민지화가 가능해져 인류의 번영을 극대화할 수 있습니다. 그는 지구의 유한성으로 인해 발생하는 현재의 제로섬 게임 사고방식을 비판하며, 이러한 사고방식은 기후 변화와 서식지 파괴와 같은 문제를 악화시킨다고 지적합니다. 급진적인 풍요는 사고방식을 비제로섬 게임 협력으로 전환시킬 수 있습니다. 그러나 그는 기술적 해결책(예: 기존 기후 대책이나 백신)이 있더라도 유통, 백신 반대 정서, 그리고 희생은 여전히 과제로 남아 있다는 점을 인정합니다. DH는 철학자, 사회과학자, 경제학자에게 가치와 돈에 대한 개념이 진화하는 AGI 이후 경제에 대한 새로운 이론을 개발할 것을 요구합니다.

마지막으로 DH는 AI에 대한 대중의 반발을 다루며, 이를 산업 혁명 당시의 변화와 미지의 세계에 대한 두려움에 비유합니다. 비록 직접 경험한 적은 없지만, 그 불안감을 잘 이해합니다. 그는 알파폴드가 아이소모픽 랩스와 같은 파트너십을 통해 노벨상을 수상한 신약 개발 잠재력을 통해 입증된 것처럼, 과학과 의학 발전에 대한 자신의 열정을 강조하며 반박합니다. AI는 기후와 에너지와 같은 사회적 과제를 해결하는 데 필수적입니다. AI가 없다면 그는 미래에 대해 비관적일 것입니다. 하지만 AI 자체는 책임감 있는 개발을 요구하는 과제이며, 가족을 괴롭히는 질병을 치료할 수 있다면 AI를 추구하지 않는 것은 비도덕적인 일입니다. DH는 인류의 이익을 위해 이러한 복잡성을 헤쳐나가겠다고 다짐하며 낙관적인 결론을 내립니다.