요약하면, 메타는 오픈 소스를 통한 AI 플랫폼 구축에 집중하며, 이는 AI 발전 가속화, 인재 유치, 문화 다양성 확보, 그리고 국가의 주권 확보에 중요하다고 봅니다. LLMs는 유용하지만 진정한 지능을 위해서는 물리적 세계 이해, 기억, 추론, 계획 능력이 필요하며 LLMs를 넘어서야 한다고 강조합니다. AI 경쟁은 오픈 소스 대 독점 모델 간이며, 좋은 아이디어는 전 세계 어디에서나 나올 수 있습니다. AI 안전 문제에 대해서는 인간 지능과 AI 지능을 동일시하는 오류에서 비롯된 불필요한 두려움이라고 일축하며, 지능이 반드시 지배 욕구로 이어지지 않는다고 설명합니다. 마지막으로 한국의 강점인 하드웨어 외 소프트웨어 발전을 위해서는 '조직화된 혼돈'을 수용하는 문화 변화가 필요할 수 있다고 조언합니다.

• 메타의 AI 철학 및 전략: 메타는 AI를 플랫폼으로 생각하며, 이 플랫폼을 오픈 소스로 제공하는 전략을 채택하고 있습니다. 이는 인터넷 및 모바일 통신 네트워크의 소프트웨어 인프라가 오픈 소스가 된 역사적 흐름과 일치합니다. 파운데이션 모델(foundation models)은 훈련 비용이 매우 높고 전문 지식, 계산 자원, 막대한 자금이 필요하여 소수의 주체만이 가능하지만, 이를 오픈 소스로 제공하면 전 세계의 많은 사람들이 개선에 기여하고 이를 기반으로 다양한 사용자를 위한 제품을 구축할 수 있기 때문에 중요합니다. 경쟁은 회사나 국가 간이 아니라 독점적인(proprietary) 세계와 오픈 소스 세계 간의 경쟁으로 볼 수 있습니다. 메타의 오픈 소스 정책은 회사 DNA에 뿌리내린 전통이며, 플랫폼 자체에서 수익을 얻기보다 플랫폼 위 제품에서 수익을 창출하기 때문에 플랫폼 배포에 비용이 들지 않습니다.

• 오픈 소스 AI의 중요성: 오픈 소스는 과학 및 기술 발전 속도를 높이는 주요 동력입니다. 지난 10여 년간 AI가 빠르게 발전한 것은 연구가 공개되었기 때문입니다. 오픈 소스는 기술 발전 속도를 높이고 더 안전하고, 보안성이 뛰어나며, 성능이 향상되도록 합니다. 메타는 다른 사람들이 오픈 소스 플랫폼에 기여한 것으로부터 이익을 얻어 더 빠르게 발전할 수 있으며, 최고의 인재를 유치하는 방법이기도 합니다 (과학자들은 자신의 지적 생산물을 출판할 수 있기를 원하기 때문). 더 중요한 이유는 가까운 미래에 우리가 디지털 세계와 상호작용하는 모든 것이 AI 비서에 의해 매개될 것이기 때문입니다. 만약 이러한 AI 비서가 소수의 회사(미국 서부 해안이나 중국의)에서만 온다면, 문화적 다양성에 좋지 않고, 전 세계 모든 언어를 구사하거나 모든 문화, 가치 체계, 관심사를 이해하지 못할 것입니다. 오픈 소스 플랫폼은 누구든지 자신만의 편향(bias), 언어, 문화, 가치 체계를 가진 AI 비서를 구축할 수 있게 하여 사용자가 선택권을 가질 수 있도록 합니다. 또한, 파운데이션 모델을 훈련할 지역 자원이 부족한 국가들에게 주권을 제공합니다.

• 오픈 소스 AI의 책임 문제: 오픈 소스 시스템을 사용하여 제품을 만들 경우, 제품 제조업체나 개발자가 책임져야 합니다. 리눅스를 사용하는 Wi-Fi 라우터에 버그가 있어 문제가 발생하면 리눅스 개발자가 아닌 라우터 제조업체를 고소하는 것과 유사합니다. 오픈 소스를 사용하기로 선택했다면 문제가 있을 경우 스스로 수정할 수 있기 때문에 제품 문제에 대한 책임은 사용자에게 있습니다. 악의적인 사람이 오픈 소스 플랫폼으로 나쁜 일을 하는 경우, 이는 부엌 칼로 사람을 해치는 것과 같으며, 칼 제조업체가 아닌 행위자가 책임집니다. 이러한 법적 문제는 아직 완전히 해결되지 않았지만, 기술 발전을 방해하지 않는 방식으로 법원이 판단할 것으로 예상됩니다.
• 대규모 언어 모델(LLMs)의 한계: LLMs는 텍스트 생성, 코딩, 시험 통과, 수학 문제 해결 등 매우 유용하지만, 인간이나 동물 수준의 진정한 지능 시스템으로 가는 경로는 아니라고 봅니다. LLMs는 언어를 조작할 수 있지만, 실제 물리적 세계를 이해하고, 지속적인 기억을 가지며, 추론하고 계획하는 능력(진정한 지능의 네 가지 필수 특성)이 부족합니다. 따라서 LLMs를 넘어서야 합니다. 언어는 실제 세계에 비하면 단순하며, 실제 세계를 다루는 것은 매우 어렵습니다.

• AI 경쟁 및 기술 민족주의: 현재의 경쟁은 국가나 지역 간의 경쟁이라기보다는 독점 모델 대 오픈 소스 모델의 경쟁에 가깝습니다. 연구 결과를 공개하면 발전된 기술을 모두가 이용하고 영감을 얻어 개선에 기여하게 되어 기술이 더 빠르게 발전합니다. 좋은 아이디어는 어디에서나 나올 수 있으며, 특정 지역(예: 미국 서부 해안)의 우월 의식은 잘못된 것입니다. Deepseek과 같은 사례는 오픈 소스 모델이 독점 모델만큼 뛰어나거나 더 나을 수 있음을 보여주었습니다. 중국을 포함한 다른 국가들도 우수한 모델을 자체적으로 개발할 수 있습니다. 미국이 오픈 소스 AI 발전을 막으려 한다면, 미국 내 발전만 느려질 뿐 전 세계적으로는 그렇지 않을 것이므로 역효과를 낳을 수 있습니다.

• AI 안전 및 디스토피아적 예측: AI가 세상을 지배하거나 인류를 해칠 것이라는 종말론적 시나리오를 믿지 않습니다. 대부분의 AI 과학자들도 동의합니다. 이러한 두려움은 AI의 지능이 인간처럼 지배하려는 욕구를 가질 것이라고 가정하는 데서 비롯되지만, 이는 사실이 아닙니다. 인간의 본성은 진화와 사회적 종으로서의 특성에 의해 형성되었습니다. 지능이 반드시 지배 욕구와 연결되는 것은 아니며, 오랑우탄처럼 똑똑하지만 사회적이지 않고 지배하려는 욕구가 없는 동물이 그 예입니다. 가장 똑똑한 사람들은 오히려 혼자 있기를 원하는 경향이 있습니다.

• 한국의 AI 분야 기여 방안: 한국(그리고 일본, 대만)은 하드웨어 기술은 매우 뛰어나지만, 소프트웨어에서는 상대적으로 그렇지 못합니다. 재능 있는 인재와 훌륭한 교육 시스템이 있음에도 불구하고 소프트웨어 분야에서 뒤처지는 이유는 명확하지 않습니다. 소프트웨어 분야의 뛰어난 성과에는 **'조직화된 혼돈(organized chaos)'**이 필요할 수 있으며, 이는 바닥에서 좋은 아이디어가 솟아나고, 위험을 감수하며, 사람들에게 긴 고삐(자율성)를 주는 환경을 의미합니다. 이는 북미 문화의 일부 측면과 더 잘 맞을 수 있습니다. 이러한 문화적 요소는 시간이 지나면서 변화할 수 있으며, 한국이 소프트웨어 강국이 되기 위해서는 '혼돈'을 포용하는 변화가 필요할 수 있습니다. 이는 한국 리더들과 젊은 학자들에게 주는 조언이 될 수 있습니다.

↓ https://www.youtube.com/watch?v=A_d-QJfMBUU