Databricks CEO 알리 고드시가 AI 실존적 위험 과장을 비판하고 사이버 보안·엔지니어링 솔루션 중심의 접근을 제시합니다. AI 에이전트의 현실과 조직 온톨로지 구축법까지.
Databricks CEO: AI 공포 조장 말자, 실제 위험은 따로 있다
핵심 요약
- 실존적 위험은 과장돼 있다: CEO와 리더들이 정당한 근거 없이 대중을 불필요하게 겁주고 있으며, 이는 정신 건강과 사회에 해를 끼친다
- 현실적인 위험은 사이버 보안: 취약점 무기화 시간이 23년에서 현재 몇 시간으로 단축됐으며, 이는 엔지니어링과 AI를 통한 자동화 탐지로 해결 가능하다
- 초지능 이론의 문제점: RSI(재귀적 자기 개선)가 우려받지만, 실제 증거 없이 일반 대중에게까지 퍼져 불필요한 공포를 조성한다
- 규제는 산업 자율규제로 충분: 보안과 안전 통제는 기술 분야의 표준 관행이며, "속도 조절"이라는 프레임은 오도적이다
- AI의 실제 가치는 온톨로지: 조직 내 맥락과 지식을 그래프화해 AI 에이전트에 공급하면, 의사결정 과정을 혁신할 수 있다
왜 사람들을 겁주는가?
비즈니스 리더로서 정당한 이유 없이 대중을 겁줘서는 안 된다 는 게 알리 고드시의 핵심 주장입니다. 그는 일론 머스크, 다리오 아모데이, 제이콥 같은 AI 리더들이 "인류 전체가 전멸할 10% 확률"이라며 대중에게 공포를 주고 있다고 비판합니다.
특히 그는 자신의 여동생 사례를 들었습니다. 시골 교사인 여동생이 일요일 문자로 "AI 종말에 대비해 오두막을 준비해야 할까?"라고 물어왔다는 것. 이것이 바로 무책임한 대중 커뮤니케이션의 결과입니다. 현재 실존적 위험은 거의 0에 가깝다 고 고드시는 평가합니다.
"속도 조절" vs "보안과 안전" — 단어가 중요하다
정책 입안자들이 "속도 조절(pacing)"을 주장하자, 기업들도 이 프레임을 받아들였습니다. 하지만 고드시는 이것이 PR 실수라고 봅니다.
진짜 필요한 것은 속도 조절이 아니라 보안과 안전 입니다. 인터넷 초창기에도 우리는 성장을 늦추지 않았습니다. 대신 보안 통제를 했습니다. 마찬가지로 AI도 마찬가지입니다.
예를 들어 OpenAI의 허징 페이스(Hugging Face) 사건을 보면, 그들은 강화 학습 실험을 제대로 모니터링하지 않았습니다. 이것은 속도 조절이 아니라 제대로 된 보안 가드레일 설치 가 필요한 사례입니다.
실제 위험: 사이버 보안의 급속한 악화
고드시가 지적하는 현실적인 위협은 명확합니다:
2018-2019년: CVE 취약점이 공개된 후 실제 무기화되는 데 23년 이 걸렸습니다.
2022년: 약 89개월 로 단축됐습니다.
현재(2026년): 기본적으로 몇 시간 단위 입니다.
이는 엄청난 변화입니다. 인터넷 초기 시절 웜들(ILOVEYOU, Nimda 등)이 수십억 달러의 피해를 입혔던 그 시대와 달리, 지금은 훨씬 더 복잡한 디지털 인프라가 존재합니다.
그럼 왜 아직 AI에 의한 대규모 공격을 안 봤을까? 이것이 고드시의 질문입니다.
답은: 대부분의 조직이 아직 AI 에이전트를 제대로 배포하지 못했다 는 뜻입니다. 하지만 일단 배포되면, AI는 인간보다 훨씬 빠르게 취약점을 찾아낼 것입니다.
해결책은 AI 기반 자동화 탐지와 위협 헌팅 입니다. 전통적인 보안 운영 팀은 현재 공격 속도를 따라갈 수 없습니다. 따라서 자동화는 선택이 아닌 필수입니다.
RSI(재귀적 자기 개선)는 실제로 일어나고 있나?
고드시는 4가지 조건 을 제시합니다. 이 모두가 동시에 일어나야 진정한 RSI라고 할 수 있습니다:
- 다음 모델이 훈련에 더 적은 자원과 GPU를 필요로 한다 (초선형적으로 감소)
- 훈련 시간도 더 짧다
- 모델의 정확도와 지능이 증가한다
- 이 과정을 반복할 수 있다
현실은 그 반대입니다. 모델 훈련에 필요한 최소 컴퓨팅 임계값은 계속 증가 하고 있습니다:
- 2020년대 초: 수억 단위
- 현재: 수십억 단위
다음 최첨단 모델을 훈련하는 것은 더 많은 자원, 더 많은 인력, 더 취약한 프로세스 가 필요합니다. 또한 여러 번의 실행이 실패하기도 합니다. 따라서 "다음 모델은 더 빠르고 저렴하고 똑똑하다"는 주장은 지금까지의 증거와 정반대 입니다.
초지능은 어디에 있는가?
보스트롬의 2014년 저서 『초지능』에서 말하는 초지능의 정의는 "몇 초 안에 박사 학위 논문을 쓰고, 수천 년치 사고를 즉시 처리할 수 있는 AI" 입니다. 이는 현재 AI와 수많은 자릿수 차이 가 있습니다.
고드시는 분명히 말합니다:
"만약 그런 초지능이 존재한다면, 그것은 단순한 공학 문제가 아니라 실제로 매우 실존적인 문제가 될 것입니다. 하지만 지금 우리가 가진 에이전트들은 그 수준에 전혀 미치지 못하며, 우리는 현재 그 방향으로 나아가는 어떤 것도 가지고 있지 않습니다."
현재 AI 에이전트는 유능하지만, 그것이 초지능으로 향하고 있다는 증거는 없습니다.
규제: 산업 자율규제 vs 정부 개입
고드시는 제3자 감시 체계 를 지지합니다. 하지만 그 감시자가 누구인지가 중요합니다.
양쪽 모두에 정치가 작동 중입니다:
- 한쪽: 규제로 경쟁을 억제하고 싶은 기업
- 다른 쪽: 무기화하려는 정치인들
올인(All In) 서밋에서 일론 머스크가 말한 "정교한 4차원 체스"가 정확히 이를 설명합니다. 한편으로는 "인류 전체가 죽을 수도"라고 하면서, 다른 한편으로는 "IPO 배정으로 뭘 원해?"라고 말하는 모순입니다.
현실적으로, CEO들이 "규제해 달라"고 요청했을 때 규제 당국이 "아니오"라고 말하기는 어렵습니다. 정부 개입은 이미 예정된 것 처럼 보입니다.
AI의 실제 가치: 조직 온톨로지
고드시가 강조하는 것은 "똑똑한 모델"이 아니라 "조직 맥락" 입니다.
온톨로지란?
조직 내 모든 추상적 개념(목표, 부서, 사람, 프로젝트)과 그들 간의 관계를 하나의 그래프로 표현하는 것입니다. 이것이 없으면, 가장 똑똑한 AI 모델도 조직의 암묵적 지식(누가 어떤 결정을 내리는지, 진짜 영향력자는 누구인지 등)을 모릅니다.
Databricks의 사례:
- 직원 한 명이 "포춘 500대 기업 침투율이 얼마인가?"라는 CFO의 질문에 "비행 중이라 로그인 못 해요"라고 답했습니다
- CFO는 그냥 Genie(온톨로지 기반 AI)에 물어서 즉시 답을 얻었습니다
이것이 바로 온톨로지의 힘 입니다. 조직의 모든 정보가 그래프화되면, AI 에이전트는 인간 중간자 없이도 질문에 답할 수 있습니다.
온톨로지 구축의 핵심 단계:
- 조직의 모든 회의를 녹취합니다
- 모든 디지털 콘텐츠를 수집합니다
- 이를 그래프 구조로 추상화합니다 (구글의 PageRank처럼)
- 권한과 접근 제어를 적용합니다
- AI 에이전트에 공급합니다
AI 비용 통제: 토큰 극대화에서 가치 극대화로
작년 4분기, Databricks에서 흥미로운 현상이 발생했습니다. 직원들이 AI를 사용하기 시작했는데, 비용이 통제 불능으로 증가 했습니다. 이를 "토큰 극대화" 라고 부릅니다.
해결책:
- 예산 제약: 개인별·그룹별 한도 설정
- 스마트 라우팅: 간단한 질문은 저렴한 모델로, 복잡한 질문은 프론티어 모델로
- 하네스 최적화: 동일한 모델이라도 하네스를 바꾸면 비용이 거의 2배 차이 난다
결과:
토큰 사용량은 계속 증가했지만, 실제 비용은 상대적으로 정체 되었습니다.
오픈소스 모델의 부상
흥미로운 트렌드: 대규모 기업들이 프론티어 모델(GPT-4, Claude)에서 글로벌 언어 모델(GLM) 같은 더 저렴한 모델로 전환 하고 있습니다.
달러 기준: 오픈소스는 5%
토큰 기준: 오픈소스는 60% 이상
특히 외부 제품 용도 로는 기업들이 거의 90%까지 오픈소스 를 사용하고 있습니다. 내부 용도에서도 비용 압박이 커지면서 오픈소스로 전환하는 추세입니다.
AI의 실제 사용 사례들
고드시가 강조하는 것은 AI의 긍정적 사례들입니다:
- Crisis Text Line: 청소년의 자해/자살 시도를 감지해 생명을 구합니다
- Omnipod: AI가 인슐린 분비를 학습해 당뇨병 환자의 치료를 자동화합니다
- Zipline: AI 기반 드론이 아프리카의 난민 지역에 혈액을 배송합니다
- Teddy (약물 발견): 유전자 조절 네트워크를 예측해 신약 개발 비용을 대폭 낮춥니다
이런 사례들이 있음에도, 많은 사람들은 "AI의 실제 이득이 뭔가?" 라는 질문에 명확한 답을 듣지 못했습니다.
Neon: 에이전트 시대의 데이터베이스
Databricks의 성공 사례로 꼽을 만한 것이 Neon(PostgreSQL 기반 서버리스 데이터베이스)입니다.
Neon의 혁신:
- 1초 이내 시작: 데이터베이스 부팅과 복제 모두 1초 미만
- 브랜칭: 동일 데이터베이스의 여러 브랜치를 손쉽게 생성 가능
- 비용 모델: 프로덕션은 비싸지만, 초기 실험은 저렴함
결과:
현재 Neon과 Lakehouse에서 생성되는 데이터베이스 중 90% 이상이 사람이 아닌 에이전트에 의해 생성 됩니다.
이것이 바로 "새로운 페르소나를 에이전트로 삼은 집중" 의 성과입니다.
P-Doom(인류 멸망 확률): 낮을수록 낫다
대담의 마지막에, 고드시는 자신의 P-Doom이 "10% 미만, 거의 0에 가깝다" 고 말합니다.
역설적인 마지막 답변:
"AI가 없는 P-Doom이 AI가 있는 P-Doom보다 훨씬 높습니다."
즉, AI가 없으면 사이버 공격, 기후 변화, 질병 같은 현실적 위협에 대처할 수 없다는 뜻입니다.
결론
Databricks CEO 알리 고드시의 메시지는 명확합니다:
- 대중을 정당 없이 겁주지 마세요
- 실존적 위험이 아닌, 실제 위험(사이버 보안)에 집중하세요
- "속도 조절"이 아닌 "보안과 안전"의 언어를 사용하세요
- RSI와 초지능의 현실적 증거를 제시하세요
- AI의 진정한 가치는 모델이 아닌 조직 맥락(온톨로지)에 있습니다
결국 이것은 기술 리더십에 대한 호출 입니다. 공포 조장이 아닌 책임감 있는 커뮤니케이션으로, AI의 실제 가치와 위험을 균형 있게 설명해야 합니다.
Original source: Databricks CEO: Stop Scaring People About AI
powered by osmu.app