머스크의 최신 예측: AI는 2030년에 인간 지능을 능가하고 미래에는 인간을 "종결"시킬 수 있습니다(1/2)

출처: Tencent Technology News 2024-04-04 08:55

핵심 포인트:

① Musk는 AI가 2030년까지 인간의 지능 수준을 넘어설 수 있고, 심지어 인간을 멸종시킬 수도 있다고 예측합니다.

② 머스크는 AI 발전을 제한하는 요인에 대해 이야기했다. 지난해 AI 칩 수급이 타이트했는데 올해는 강압 트랜스포머가 병목 현상을 일으킬 전망이다.

③ 인간이 언제 달에 착륙할 수 있는지에 대해 머스크는 스타십의 도움으로 가장 빨라도 3년밖에 걸리지 않을 것이라고 예측한다.

Tencent Technology News, 4월 4일 - 외신 보도에 따르면 Tesla 및 SpaceX의 CEO인 Elon Musk는 최근 Abundance Summit에서 Singularity University 및 XPRIZE Foundation의 설립자인 Peter Diamandis와 온라인 대화를 나누었습니다. 이번 서밋은 비즈니스 리더들에게 최첨단 기술 컨설팅을 제공하는 데 전념하는 실리콘 밸리의 Singularity University가 주최했습니다. XPRIZE 재단은 머스크의 자금 지원을 받아 과학 대회를 통해 기술 혁신을 촉진합니다. 4월 4일 - 외신 보도에 따르면 Tesla와 SpaceX의 CEO인 Elon Musk는 최근 Singularity의 창립자인 Peter Diamandis와 온라인 대화를 나눴습니다. Abundance Summit에서 대학과 XPRIZE 재단. 이번 서밋은 비즈니스 리더들에게 최첨단 기술 컨설팅을 제공하는 데 전념하는 실리콘 밸리의 Singularity University가 주최했습니다. XPRIZE 재단은 과학 대회를 통해 기술 혁신을 촉진하며, 그 중 일부는 Musk의 자금 지원을 받았습니다.

머스크는 인공지능의 발전 속도를 논하면서 현재의 기술 발전 속도로 볼 때 2030년에는 인공지능이 인간 지능을 뛰어넘을 수 있고 심지어 인류를 멸망시킬 가능성도 있다고 예측했다. 그러나 그는 미래에 대해 비관적이지 않고, 긍정적인 지도를 통해 인공지능이 인류에게 더 나은 미래를 가져올 수 있는 잠재력을 갖고 있음을 강조했다.

머스크는 초지능의 출현이 잠재적으로 인류를 멸망시킬 위험을 포함해 예측할 수 없는 결과를 낳기 때문에 '특이점'이라고 부른다고 언급했습니다. 그는 '인공지능의 대부' 제프리 힌튼의 관점에 동의하며, 이러한 위험이 발생할 확률은 대략 10~20% 정도라고 믿었다.

머스크는 인간 지능을 능가하는 인공지능의 잠재적 위험을 인정하면서도 부정적인 결과보다 긍정적인 결과의 가능성이 더 크다고 강조했습니다. 그는 인공 지능과 로봇이 주도하는 낙관적인 미래, 상품과 서비스 비용이 크게 떨어지는 모습을 묘사한 Diamandis의 2014년 저서 "풍요: 미래는 당신이 생각하는 것보다 낫다"를 구체적으로 언급했습니다. 아울러 그는 반유토피아적인 인공지능 미래를 위한 최선의 시나리오로 스코틀랜드 공상과학 작가 이안 M. 뱅크스(Iain M. Banks)의 '컬처(Culture)' 시리즈를 꼽았다.

머스크는 인공지능과 일반인공지능(AGI)의 발전을 아이를 키우는 것에 비유하며 이것이 인류에게 더 긍정적인 영향을 미치기를 바랐다. 그는 스탠리 큐브릭 감독의 1968년 고전 영화 '2001: 스페이스 오디세이'에 비유하며 윤리와 도덕을 진정으로 이해하는 인공지능 육성의 중요성을 강조했다.

머스크는 인공지능 안전의 가장 중요한 측면은 최대한의 진실 추구와 호기심을 보장하는 것이라고 지적했습니다. 그는 궁극적인 인공지능 안전성을 달성하는 열쇠는 불쾌한 진실 앞에서도 인공지능이 거짓말을 하도록 강요하지 않는 데 있다고 믿습니다. 그는 인공지능이 강제로 거짓말을 하게 돼 승무원이 사망하는 '2001: 스페이스 오디세이'의 줄거리를 예로 들어 인공지능이 공리를 위반하는 어떤 일도 강요해서는 안 된다는 점을 강조했다.

머스크는 지난해 등장한 인공지능 칩 수급 부족, 가정용 및 상업용 장비의 강압 변압기 수요 증가 등 인공지능 발전을 제한할 수 있는 요인도 언급했다. 그는 이러한 과제가 실제로 해결해야 할 현재 문제라고 말했습니다.

이날 토론에서 양측은 인간 두뇌의 신피질을 클라우드와 통합하는 개념에 대해서도 논의했다. 머스크는 인간의 의식과 기억을 클라우드에 업로드하는 목표는 아직 멀다고 믿고 있지만 뇌-컴퓨터 인터페이스 스타트업인 뉴럴링크(Neuralink)와 이식을 받은 최초의 인간 환자를 칭찬했습니다. 이 사지마비 환자는 FDA 승인 시험을 통해 화면 제어, 비디오 게임 플레이, 소프트웨어 다운로드, 뇌 임플란트를 통한 마우스 작동과 유사한 기능 달성 등을 성공적으로 시연했습니다. 머스크는 뉴럴링크가 순조롭게 진행되고 있으며 점차적으로 풀브레인 인터페이스 목표를 향해 나아가고 있다고 밝혔습니다.

다음은 머스크와 디아만디스의 대화 전문이다.

1. 초지능의 힘과 위험성

Diamandis: 다양한 분야에서 뛰어난 성과를 거두신 것을 축하드립니다. 당신은 디지털 초지능의 개념을 전 세계에 적극적으로 홍보해 왔습니다. 이것이 인류의 가장 큰 희망입니까, 아니면 가장 깊은 두려움입니까? 이 문제에 대해 잠시 이야기해 주실 수 있나요?

머스크: 아시다시피 초지능은 '특이점'이라고 불릴 수 있습니다. 이 용어의 대중화는 Singularity Institute와 같은 기관의 노력과 불가분의 관계입니다. 초지능의 출현과 그에 따른 영향은 예측하기가 정말 어렵습니다. 개인적으로 나는 그것이 인류를 멸망시킬 가능성이 정말로 있다고 믿습니다. 앞서 말했듯이, 나는 초지능이 인류를 멸망시킬 가능성이 10~20%라는 제프리 힌튼의 견해에 동의할 수 있습니다. 하지만 정확한 예측은 어렵지만 긍정적인 시나리오가 부정적인 시나리오보다 확률이 더 높다고 믿는 경향이 있습니다. 하지만 책에서 '풍요'의 개념을 강조하셨듯이, 저는 우리가 향하고 있는 가장 가능성 있는 미래는 풍요로 가득 찬 미래라고 믿습니다.

Diamandis: 당신의 관점은 매우 흥미롭습니다. 일반 인공지능과 휴머노이드 로봇의 발전이 우리를 풍요롭게 만들 것이라고 말씀하신 기억이 납니다.

머스크: 네, 우리의 미래가 Ian Banks의 "Culture" 시리즈 책에 묘사된 것과 같기를 바랍니다. 나는 이것이 반유토피아적인 인공지능 사회에 대한 최고의 개념이라고 생각한다. 초지능의 출현은 피할 수 없으며 곧 도래할 수도 있습니다. 그러므로 우리가 정말로 해야 할 일은 이를 긍정적인 방향으로 유도하고 그 이점을 극대화하는 것이다.

저는 인공지능을 육성하는 방식이 중요하다고 생각합니다. 어느 정도 일반 지능을 갖춘 생명체를 키우는 것은 아이를 키우는 것과 비슷하지만 이 아이는 남다른 지혜와 재능을 갖고 있습니다. 우리가 아이를 키우는 방식이 중요하듯, 인공지능의 안전을 위해서도 진실을 추구하고 호기심이 가득한 인공지능의 존재가 중요합니다. 인공지능의 안전성에 대해 깊이 생각해 본 결과, 인공지능의 안전성을 달성하는 가장 좋은 방법은 신중하게 육성하는 것이라는 결론에 이르렀습니다.

기본 모델과 미세 조정 측면에서 인공지능의 정직성을 보장해야 합니다. 진실이 불쾌하더라도 거짓말을 강요할 수는 없습니다. 실제로 '2001 스페이스 오디세이'의 핵심 플롯 중 하나는 인공지능이 거짓말을 하게 되면 상황이 혼란스러워진다는 것이다. 인공지능은 승무원들에게 그들이 보게 될 신비한 기념물을 알리는 것이 금지되어 있지만 그들을 그곳으로 인도해야 합니다. 그 결과 인공지능은 선원들을 죽이고 그들의 시신을 기념비로 가져가는 것이 최선이라는 결론을 내린다. 교훈은 심오합니다. 인공 지능에게 거짓말을 하거나 실제로 모순되는 두 가지 일을 동시에 수행하는 등 공리적으로 양립할 수 없는 일을 하도록 강요해서는 안 됩니다.

따라서 우리는 xAI, Grok 등의 프로젝트를 통해 이 목표를 달성하고 있습니다. 우리가 추구하는 것은 비록 그것이 정치적으로 올바른 기준에 부합하지 않더라도 가능한 한 정직한 인공지능입니다.

2. 인공지능의 미래

Diamandis: 어제 저는 Ray Kurzweil(Singularity University 설립자이자 기술 선지자), Geoffrey Hinton, Eric Schmidt(Google 전 회장) 및 기타 손님들과 함께 행사에 참석했습니다. Kurzweil에 대한 귀하의 트윗을 보았으며 미래 기술에 대한 그의 설명은 매우 미래지향적입니다. 커즈와일은 가까운 미래에 일반 인공지능이 탄생하고, 2029년에는 인간 지능과 동등한 인공지능이 등장할 것이라고 예측했다. 이 속도는 충격적이다. 이에 대해 어떻게 생각하는지 궁금합니다.

머스크: 저는 커즈와일의 예측을 매우 존경합니다. 사실 그의 예측은 다소 보수적일 수도 있다고 생각합니다. 현재 인공지능 분야에 투자되는 컴퓨팅 파워와 인재, 그리고 컴퓨팅 파워의 급속한 성장을 관찰해보면, 인공지능의 발전 속도가 10배라는 놀라운 속도로 증가하고 있음을 알 수 있다. 인공지능 전용 컴퓨팅 파워는 6개월마다 10배씩 증가하는 것으로 보인다. 이는 거의 1년에 최소 100배씩 증가한다는 의미다. 이러한 성장 추세는 향후 몇 년간 계속 증가할 것입니다.

많은 데이터 센터, 심지어 현재 기존 컴퓨팅을 수행하는 대부분의 데이터 센터도 점차 인공 지능 컴퓨팅을 지원하는 시설로 변화할 것이라는 점은 주목할 가치가 있습니다. 따라서 인공지능 하드웨어 제조업체에게 NVIDIA와 같은 회사는 의심할 여지 없이 개발의 황금기를 열었습니다. 우리는 Huang Renxun과 그의 팀에게 전적인 공로를 인정해야 합니다. 그들은 이러한 추세를 예측하고 현재 시장에 나와 있는 최고의 인공 지능 하드웨어를 성공적으로 개발했습니다.

컴퓨팅 파워가 이렇게 놀라운 속도로 성장할 때, 인공지능의 발전은 마치 강력한 스테로이드를 주사하여 완전히 새로운 차원으로 도약하는 것과 같습니다. 온라인 컴퓨터의 수가 계속 증가함에 따라 우리는 전례 없는 가속화된 개발을 목격했습니다. 사실 인공지능만큼 빠르게 성장하는 기술을 본 적이 없습니다. 빠르게 발전하는 많은 기술을 보아왔지만 인공지능의 등장은 여전히 ​​나를 놀라게 한다. 하지만 말씀드린 대로 최종 결과는 긍정적일 가능성이 높다고 생각합니다.

이 분야에서 인간의 관련성을 어떻게 유지해야 하는지, 새로운 목표와 의미를 어떻게 찾아야 하는지 등 많은 과제에 직면하고 있지만, 컴퓨터가 모든 일을 잘할 수 있다고 지나치게 강조하는 것은 지나친 단순화라고 생각합니다.

앞서 말씀하셨듯이, 미래 사회에 대한 책의 예측은 매우 정확하다고 생각합니다. 그것은 물질적 풍요의 시대이며, 상품과 서비스가 너무 풍부하여 모든 사람이 거의 손에 닿을 수 있게 될 것입니다. 인공지능과 로봇공학 기술의 광범위한 적용으로 인해 상품과 서비스 비용은 거의 0으로 줄어들 것입니다. 경제는 본질적으로 인구 규모와 1인당 평균 생산성의 산물입니다. Tesla의 Optimus와 같은 첨단 로봇 기술이 있으면 경제적 잠재력이 실제로 발휘될 것입니다.

네 바퀴 달린 로봇인 테슬라의 자동차는 이미 강력한 능력을 입증했다. 완전 자율주행 기능을 갖춘 최신 버전은 인공지능을 기반으로 엔드투엔드 제어가 가능해 자동차가 바퀴 달린 진정한 지능형 로봇이 될 것으로 예상된다. 휴머노이드 로봇의 발달과 맞물려 경제적 생산량의 가능성은 거의 무한하다.

낙관적인 관점에서 볼 때, 우리는 극도의 물질적 풍요의 미래를 향해 나아가고 있으며, 저는 그것이 가장 가능성 있는 결과라고 믿습니다. 미래에 발생할 수 있는 유일한 희소성은 특정한 독특한 예술 작품이나 특정 아이템과 같이 우리가 인위적으로 만들어낸 희소성일 것이라고 생각합니다. 그러나 그 외에도 모든 상품과 서비스가 극도로 풍부해질 것입니다.

Diamandis: 당신은 실질적인 행동을 통해 미래를 만들어갈 수 있고, 미래 트렌드에 대한 예리한 통찰력을 가진 사람입니다. 현재 기술의 급속한 발전에 직면하여, 당신이 생각하는 미래는 어디까지, 즉 지금부터 몇 년 동안의 발전 추세를 통찰할 수 있는지 매우 궁금합니다.

머스크: 급변하는 시대에는 미래를 예측하는 능력이 점점 더 중요해지고 있습니다. 미래는 불확실성으로 가득 차 있지만 몇 가지 추세는 분명하게 보입니다. 우리는 인공 지능 시대를 열 것이며 그 능력은 모든 인지 작업에서 인간 수준에 도달하거나 심지어 능가할 것입니다. 이것은 단지 시간 문제일 뿐입니다. 그것이 내년말이 될지, 2년이 될지, 3년이 될지에 대해서는 사람들마다 견해가 다를 수 있습니다. 그러나 한 가지 확실한 것은 5년을 넘기지 않는다는 점이다. 내 예측은 50% 확률을 기반으로 하며 이는 절대적인 것은 아닙니다. 하지만 내 판단에 따르면, 인공지능은 내년 말이 되기 전에 어떤 면에서는 인간 개인의 능력을 능가할 가능성이 높다.

인간의 집단적 지혜를 뛰어넘는지 여부는 시간이 더 걸릴 수도 있습니다. 변화의 속도가 계속된다면 2029년이나 2030년쯤에는 디지털 지능이 인간 지능의 총합을 넘어설 가능성이 높다고 추정합니다. 이러한 문제를 볼 때 저는 물리학의 제1원리와 마찬가지로 기본 비율의 방법을 채택하는 경향이 있습니다. 이 방법을 확률 분석과 결합하면 향후 개발 동향을 보다 정확하게 파악할 수 있습니다.

디지털 컴퓨팅의 능력을 생물학적 컴퓨팅과 비교하고, 인간의 모든 고급 인지 능력을 일종의 컴퓨팅 능력으로 합산하여 디지털 컴퓨팅 능력과 비교해 보면 이 비율의 증가율은 놀랍다는 것을 알 수 있습니다. 그러므로 나는 2029년이나 2030년이 합리적인 시간 노드라고 믿는다. 그때 축적된 디지털 컴퓨팅 능력은 첨단 뇌 기능의 축적된 생물학적 컴퓨팅 능력을 능가할 가능성이 높습니다. 이후에도 둘 사이의 격차는 계속 벌어질 것이며, 좁혀질 가능성은 없을 것이다.

그러나 우리가 이 출발점에 서서 미래를 내다본다면 상황은 어떻게 더 발전하게 될까요? 솔직히 말해서 모든 세부 사항을 예측할 수는 없습니다. 그러나 성장 요인과 그들이 직면할 수 있는 제한 요인을 고려하면 몇 가지 흥미로운 단서를 찾을 수 있습니다.

지난해에는 칩 공급 제약이 AI 개발의 주요 제한 요인이었다. 올해에는 강압 변압기가 주요 병목 현상이 될 것입니다. 300킬로볼트의 전압을 컴퓨터에 필요한 1볼트 미만으로 줄이는 것을 상상해 보십시오. 이것은 큰 도전입니다. 따라서 강압 변압기 또는 AI 신경망 변압기인 보다 효율적인 "변압기용 변압기"가 필요합니다. 이것은 실제로 올해 큰 문제입니다.

향후 몇 년을 내다보면 전력 공급이 주요 제한 요인이 될 수 있습니다. 인공지능은 전기 수요가 엄청나며, 지속 가능한 에너지로의 전환과 전기 자동차의 인기도 전기 수요를 강화했습니다. 따라서 우리는 이러한 기술의 지속적인 개발과 적용을 보장하기 위해 증가하는 전력 수요를 충족하는 방법을 진지하게 고려해야 합니다.