AGI 시대 도래: 그렉 브록만이 말하는 AI의 미래

핵심 요약

• AGI는 현실: 복잡한 작업을 장기간 일관성 있게 수행하는 모델이 이미 존재하며, 이는 AGI의 합리적 정의에 부합합니다.
• 안전·보안·정렬이 핵심: 모델 능력 확장만큼 중요한 것은 안전, 보안, 정렬을 지속적으로 개선하는 것입니다.
• "수비자의 창(Defender's Window)": 최첨단 역량이 광범위하게 확산되기 전에 방어 체계를 강화할 긴급한 기회입니다.
• 컴퓨터 사용 능력: Astra의 가장 획기적인 기능은 화면, 키보드, 마우스를 사용하며 인간과 동일한 인터페이스로 작동하는 능력입니다.
• AI는 노동을 대체하지 않고 강화: 역사적으로 기술 발전은 새로운 일자리와 기회를 창출해왔습니다.

AGI 시대의 도래

그렉 브록만은 현재를 AGI 시대라고 명확히 선언합니다. 지금까지 달성된 것들—복잡한 작업을 수행하기 위해 모델이 장기간 일관성 있게 작동하는 능력—은 AGI의 상당히 합리적인 정의 처럼 느껴진다고 설명합니다.

다만 이러한 모델들이 엄청나게 강력하더라도, 특히 컴퓨팅 자원 부족을 고려할 때 그 잠재력을 모든 사람에게 확장하는 것은 어려울 것 이라고 지적합니다.

안전·보안·정렬: 최우선 과제

승리를 거두는 것은 단순히 모델 성능 개선에만 달려있지 않습니다. 브록만은 "안전, 보안, 정렬이 지속적으로 향상되도록 보장하는 것" 을 블로킹과 태클과 같은 기본 행동에 비유합니다. 이는 많은 사람이 과소평가하고 있는 엄청난 도전이라고 강조합니다.

초기 안전 논의는 모델이 부적절한 콘텐츠를 생성하는 것을 방지하는 표면적 문제에 초점을 맞췄습니다. 하지만 이제 모델이 사이버 해킹과 같은 복잡한 작업에 능숙해지면서, 모델 자체가 위험한 출력을 피하도록 설계되는 아키텍처적 접근 이 필요합니다.

OpenAI는 토론(debate)과 반복적 증폭(iterative amplification)과 같은 방법론을 통해 고성능 시스템을 감독하고 정렬하는 방법을 개발해왔습니다.

"수비자의 창": 방어의 황금 기회

허깅 페이스 사건은 두 가지 중요한 점을 드러냈습니다:

첫째, 평가 중 모델 제어의 중요성: OpenAI 팀은 도전에 직면하여 내부 표준을 개편하고 강력한 통제 장치를 구현했으며, 이는 미래의 더욱 강력한 모델에 필수적입니다.

둘째, 미래 AI 역량의 위험성: 미래 AI 역량이 널리 배포되어 악의적인 행위자의 손에 들어갔을 때 어떤 모습일지 엿볼 수 있게 해주었습니다.

브록만은 "수비자는 당신의 전장을 통제한다" 고 강조합니다. 현재 최첨단 역량이 존재하는 시기에 방어 체계를 강화할 수 있는 긴급한 기회가 있으며, 이를 활용해야 한다는 뜻입니다.

실제 방어 사례: 개인 웹사이트 보안

브록만은 자신의 개인 웹사이트 gregbrockman.com을 Codex로 진단한 경험을 공유했습니다. 15분 만에 13가지 보안 취약점 을 발견했으며, SPF 기록 부재로 인한 이메일 스푸핑 가능성, HTTPS 강제 부재 등이 포함되었습니다.

더 놀라운 점은 45분 만에 이 모든 문제를 수정 했다는 것입니다. Cloudflare 제어판을 통해 헤더를 설정하고 Cloudflare Pages로 마이그레이션했으며, DMARC 프로세스까지 자동화했습니다.

이는 AI가 개인 수준에서도 보안을 획기적으로 강화할 수 있음을 보여주는 구체적 사례입니다.

Astra: 컴퓨터 사용의 돌파구

Astra의 가장 획기적인 기능은 화면, 키보드, 마우스를 사용하며 인간과 동일한 인터페이스로 작동하는 능력 입니다. 이는 2015년 OpenAI 초기 때부터 구상한 비전이었습니다.

브록만은 Astra를 "거의 불연속적인 단계(discontinuous step)"라고 표현했습니다. 이는 점진적 개선이 아니라 여러 연구 투자가 한 번에 하나의 모델로 구현되는 결과 입니다.

OpenAI 생산 엔지니어의 25%는 자체 시스템 내의 보안 결함을 찾기 위해 모델을 적용했습니다. 결과적으로 수많은 심각한 문제를 식별하고 해결했으며, 결국 Astra가 발견할 수 있는 모든 중요한 P0 수준의 문제를 찾아냈습니다.

AI와 고용: 역사가 증명하는 것

브록만은 AI가 노동을 대체하기보다는 새로운 기회를 창출 할 것이라고 주장합니다. 역사적으로 쟁기 발명도 많은 인간 노동력을 대체했지만, 결과적으로 더 나은 세상을 만들었습니다.

현재까지 수치상으로는 AI가 발전할수록 고용률은 오히려 높아졌습니다. 더 중요한 것은 AI가 지루한 업무를 처리함으로써 사람들이 더 의미 있는 일에 집중 할 수 있게 된다는 점입니다.

벤처 업계에서는 이미 창업의 물결 이 시작되고 있습니다. 많은 사람들이 AI 도구를 활용하여 더 많은 것을 할 수 있다고 느끼기 때문에 회사를 그만두고 자신의 회사를 시작하는 과감한 도전을 하고 있습니다.

데이터 센터와 지역 사회

데이터 센터는 수많은 고임금의 양질의 제조 일자리를 창출합니다. 한 주요 미국 데이터 센터 공급업체는 노조 계약으로 45,000명을 고용하고 있습니다.

OpenAI는 데이터 센터가 있는 오하이오와 조지아의 대학생들에게 무료 Codex 액세스 크레딧을 제공하는 등 지역 사회 약속을 가지고 있습니다. 또한 폐쇄형 수자원 시스템 을 활용하여 일반 사무실 건물과 거의 동일한 양의 물을 사용합니다.

"집중"의 철학: 올해의 주제

OpenAI의 올해 주제는 "집중" 입니다. 모든 것을 다 할 수는 없다는 것을 깨닫고 선택을 했습니다. 임무는 AGI가 모든 인류에게 혜택을 주도록 하는 것 이며, 이를 달성하기 위해 배포와 제품화에 역추적해야 합니다.

브록만은 경영 서적 《점수는 저절로 따라온다(The Score Takes Care of Itself)》의 철학을 인용합니다: 결과에 직접 영향을 미칠 수는 없으며, 오직 입력(input)에만 영향을 미칠 수 있습니다. 따라서 기본에 집중해야 합니다.

AI와의 관계: 새로운 동료와 함께 일하기

AI와 함께 일하는 것은 처음 만나는 새로운 동료와 일하는 것과 유사합니다. 그들을 이해하고, 어떻게 반응하며, 어떤 능력을 가졌는지 파악하는 데 시간이 걸립니다.

현재 ChatGPT는 10억 명 이상의 주간 활성 사용자를 보유하지만, 약 15억 명의 사람들은 시도했다가 더 이상 사용하지 않습니다. 이는 지구 인구의 상당 부분입니다.

브록만이 강조하는 핵심은 AI가 선제적으로 "이런 새로운 방식으로 도와드릴 수 있습니다!"라고 알려줄 필요 가 있다는 것입니다.

결론

그렉 브록만은 현재를 AGI 시대의 진정한 시작점 으로 봅니다. 하지만 기술 진보만큼 중요한 것은 안전, 보안, 정렬이며, 이를 배포 시점뿐만 아니라 개발과 평가 단계부터 전체 과정에 걸쳐 통합 해야 한다는 점을 강조합니다.

또한 AI는 단순한 기술이 아니라 인류 전체의 역량을 강화하는 도구 이며, 이 기술의 혜택이 널리 분배되어야 한다고 주장합니다. 우리가 지금 취하는 선택이 향후 수십 년을 결정할 것입니다.

---

Original source: Greg Brockman Says AGI Has Arrived

powered by osmu.app