Sam Altman의 “Three Observations”은 AGI의 정의와 가능성, AI 비용 하락의 법칙, 소프트웨어 에이전트의 등장, 그리고 이 변화가 사회·경제에 미칠 영향을 다룬 글이다. 아래는 주요 내용을 섹션별로 번역·정리한 것입니다. Sam Altman은 AGI가 인류에게 커다란 이익을 가져다줄 것이며, 이를 전체에게 공평하게 분배하고 안전하게 활용하는 것이 중요하다고 강조합니다.
AGI
AGI의 의미와 OpenAI의 미션을 정의하는 섹션이다.
- 우리의 미션은 AGI(Artificial General Intelligence)가 인류 전체에게 유익해지도록 하는 것이다.
- AGI는 명확하게 정의하기 어려운 용어이지만, 일반적으로는 인간과 비슷한 수준에서 여러 분야의 복잡한 문제를 해결할 수 있는 시스템을 의미한다.
- AGI는 우리가 함께 구축하고 있는 인간 진보의 점점 더 높아지는 발판에서 또 다른 도구일 뿐이다.
- 앞으로 놀라운 경제 성장을 이룰 수 있을 것이며, 모든 질병을 치료하고, 가족과 보내는 시간을 더욱 늘리고, 창의력을 온전히 실현할 수 있는 세상을 상상할 수 있다.
- 10년 후에는 지구상의 누구나가 가장 큰 영향을 주고 있는 사람 이상을 이룰 수 있게 될지도 모른다.
- 우리는 인공지능 개발이 급속히 발전하는 것을 보고 있다.
AI 경제학에 대한 3가지 관찰
AI의 비용 구조와 확장 법칙에 대한 핵심 관찰이다.
- AI 모델의 지능은 대체로 그것을 학습하고 운용하기 위해서 사용되는 리소스의 로그와 같다. 여기에 리소스는 학습에 필요한 계산 처리, 데이터, 추론에 필요한 계산 처리이다. 임의의 금액을 투입하면, 연속적이고 예측 가능한 이익을 얻을 수 있다. 이러한 예측에 관한 확장의 법칙은 많이 정확해 졌다.
- 주어진 수준의 AI를 사용하는 비용은 12개월마다 약 10분의 1이 되고 있고, 비용 저하는 이용량의 대폭 증가를 가져온다. 2023년 초의 GPT-4와 2024년 중반의 GPT-4o에서의 토큰 단가를 비교하면 그 가격은 약 150분의 1로 떨어졌다. 무어의 법칙에서는 18개월마다 2배씩 혁신을 해왔지만, AI는 그것을 훨씬 더 극적일 것이다.
- 지능이 선형적으로 증가함에 따라 사회 경제적 가치는 본질적으로 초지수적일 것이다. 이것이 가져온 결과의 관점에서 보면 가까운 미래에 지수적으로 증가하는 투자를 멈출 이유는 없다. 이 세 가지 관찰 결과가 그대로 적용된다면 사회에 미치는 영향은 매우 커질 것이다.
AI 에이전트 — 소프트웨어 엔지니어링 에이전트
AI 에이전트가 지식 노동을 어떻게 바꿀지를 다룬다.
- AI 에이전트는 결국 가상의 동료와 같은 존재가 될 것이다. 소프트웨어 엔지니어링을 위한 에이전트는 특히 중요할 것으로 기대한다.
- 이 에이전트는 최고 레벨의 기업에서 수년간의 경험을 쌓은 소프트웨어 엔지니어가 며칠에 걸쳐 수행하는 작업의 대부분을 처리할 수 있을지도 모른다.
- 현실적으로 보면, 주니어 레벨의 가상 동료로서 생각해 주었으면 한다.
- 모든 지식 산업 분야에 AI 에이전트가 존재한다고 상상해 보자. AI는 경제적으로 트랜지스터와 비슷한데, 확장성이 뛰어나고 경제의 거의 모든 영역에 스며드는 거대한 과학적 발견이다. 광범위한 분야(컴퓨터, TV, 자동차, 장난감 등)에서 이익을 가져다 줄 것이다.
미래 변화
단기와 장기의 변화 속도 차이를 설명한다.
- 세상은 하룻밤에 변하는 것은 아니다. 지금까지 한 번도 그런 적이 없었다. 단기적으로는 생활은 거의 똑같이 계속되고, 2025년의 사람들도 2024년과 거의 같은 방법으로 시간을 쓸 것이다.
- 하지만, 미래는 지금 일하는 방식과 크게 다를 수 있다.
- 행위, 의지, 결심은 매우 가치가 높아진다고 생각하고 있다. 무엇을 해야 하는지를 정확하게 결정해, 항상 변화하고 있는 세계를 어떻게 극복할까를 파악하는 것은 큰 가치가 있다. 탄력성과 적응력을 준비하면 도움이 된다. AGI는 최대의 지렛대 역할을 해줄 것이다. 개인이 과거와는 비교할 수 없을 정도로 큰 임팩트를 가지게 될 것이다.
- AGI의 영향 범위는 불균일해 질 것으로 예상된다. 일부 산업에서는 거의 변화가 없을 수도 있지만, 과학적 진보는 현재보다 훨씬 빨라질 것이다. AGI의 영향은 다른 모든 것을 능가할 수 있다.
- 많은 상품의 가격은 결국 극적으로 떨어질 거라고 생각된다.(지금 당장은 지능과 에너지 비용이 많은 것을 제약하고 있다) 한편으로, 사치품이나 토지 등의 본질적으로 한정된 자원의 가격은 보다 극적으로 상승할 가능성이 있다.
통제성
AI의 사회 통합 방식과 개인 권한 문제를 다룬다.
- AGI를 사회에 통합해야 하는 방법에 대한 공공 정책과 집단적 의견은 매우 중요하다. 우리가 제품을 일찍 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 시간을 주기 위해서이다.
- AI는 경제와 사회의 모든 영역에 스며들 것이다. 우리 중 많은 사람들이 역사적으로 그랬던 것보다 사람들에게 기술에 대한 더 많은 통제권을 주어야 할 것으로 예상한다. 여기엔 더 많은 오픈 소싱이 포함되며, 안전과 개인의 권한 부여 사이에 균형이 있어야 하며, 이는 균형을 맞춰야 한다는 것을 수용해야 한다.
- AGI의 실현에 가까워짐에 따라, 개인의 역량 강화를 보다 중시하는 방향으로 진행하는 것이 중요하다고 생각하고 있다. 또 다른 시나리오로서 권위주의 국가가 AI를 사용하여 대규모 감시나 자율성의 탈취를 통해 시민을 지배할 가능성이 있다.
자본과 노동
AI로 인한 경제적 불평등과 재분배 문제를 다룬다.
- 기술 진보의 역사적 영향은 우리가 관심을 두는 대부분의 지표(건강 결과, 경제적 번영 등)가 평균적으로 장기적으로 개선된다는 것을 시사하지만, 기술적 평등을 증가시키는 것은 기술이 결정하지 않기에 이를 바로잡으려면 새로운 아이디어가 필요할 수 있다.
- 자본과 노동간의 힘의 역학 관계는 쉽게 왜곡될 수 있고, 초기 단계에서 개입이 필요할지도 모른다.
- 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 “컴퓨팅 예산”을 제공하는 것과 같은 이상하게 들리는 아이디어들도 열려있지만, 지능 비용을 가능한 한 낮게 낮추는 것만으로도 원하는 효과를 얻을 수 있는 많은 다양한 방법이 있을 수 있다.
- 2035년에는 누구나 2025년의 모든 사람과 동등한 지적 능력을 발휘할 수 있어야 한다.
- 모든 사람이 상상할 수 있는 대로 무한한 천재성을 발휘할 수 있어야 한다.
- 지금은 충분한 자원이 없어 자신의 재능을 온전히 표현할 수 없는 재능 있는 사람들이 너무나 많은데, 만약 우리가 그것을 바꾼다면, 그로 인해 나오는 세상의 창의적인 산출물은 우리 모두에게 엄청난 혜택으로 이어질 것입니다.
Sam Altman의 글은 AI를 단순한 도구가 아니라 경제·사회 전반을 재편하는 인프라로 바라본다는 점에서 흥미롭다. 비용 하락 법칙과 지수적 가치 창출이라는 두 축이 맞물리면 AI의 파급력은 단순한 생산성 향상을 넘어설 것으로 보인다. 결국 관건은 기술 그 자체가 아니라, 그 혜택을 누가 얼마나 공평하게 누릴 수 있느냐의 문제일 것이다.
