Brex CEO가 말하는 기업 AI 혁신 전략. AI 우선 사고방식으로 회사 재설계하는 법을 배우세요.
CEO는 최고 AI 책임자(CAIO)가 되어야 합니다
핵심 요약
- CEO가 단순 경영진이 아닌 최고 AI 책임자(CAIO) 역할을 해야 하는 이유
- AI 시대에 기업이 프로세스를 근본적으로 재설계 해야 하는 이유
- AI 우선 사고방식 으로 회사의 모든 것을 다시 상상하는 전략
- 기술 한계를 직접 경험하지 않으면 진정한 가능성을 이해할 수 없는 이유
- 에이전트 기반 AI 인프라 구축의 중요성과 실제 사례
CEO가 CAIO가 되어야 하는 근본적인 이유
현대의 CEO들이 직면한 가장 중요한 질문은 간단합니다: "이 문제를 AI로 해결할 수 없는 이유가 무엇인가?"
Brex의 공동 창립자이자 CEO인 페드로 프란체스키는 "CEO가 본질적으로 최고 AI 책임자(CAIO) 역할을 해야 한다"고 주장합니다. 이것은 단순히 엔지니어링 팀의 책임을 CEO가 떠안는다는 의미가 아닙니다. 오히려 CEO가 누구보다 기술적 한계를 깊이 이해하고, 그 한계 속에서 회사의 정체성을 근본적으로 재정의해야 한다는 뜻입니다.
이사회를 제외하고는 CEO에게 "안 된다"고 말할 수 있는 사람이 거의 없습니다. 이사회는 보통 일상적인 운영에 깊이 관여하지 않습니다. 따라서 CEO가 AI 기술의 가능성과 한계를 직접 경험하지 않으면, 조직 전체가 과거의 방식에 머물게 됩니다.
시간 배분의 황금 법칙 은 AI 모델이 처리할 수 있는 작업이 아닌, 오직 당신만이 수행할 수 있는 작업에 집중하는 것 입니다. CEO는 자신이 어떤 문제 해결에 시간을 써야 하는지 명확히 이해해야 합니다. 기술의 한계를 매일 직접 경험하지 않으면, 그 잠재력을 온전히 파악하기는 엄청나게 어렵기 때문입니다.
기술 진화의 현재 단계: 전기 발명 후 6개월
페드로는 현재 AI의 발전 단계를 역사적으로 흥미로운 비유로 설명합니다. 우리는 전기가 발명된 지 약 6개월이 지난 시점 에 있다는 의미입니다.
많은 사람들이 여전히 "촛불을 가지고 놀며" AI의 유용성에 의문을 제기합니다. 그들은 아직도 증기기관을 상상하고 있고, 이미 더 근본적이고 혁명적인 동력원이 존재함을 인식하지 못합니다. 페드로는 이를 AI의 "근본적인 빛" 이라고 부릅니다.
ChatGPT 출시 이후, 특히 추론 모델과 도구 사용 능력이 등장한 후 상황은 급격히 변했습니다. 이전의 GPT-3 API는 유망했지만 여전히 "연구 프로젝트" 같은 느낌이었습니다. 그러나 ChatGPT 4.5는 AI 코딩의 실현 가능성을 확인시켜줬습니다. 이때부터 AI가 진정으로 특별하고 실용적이게 되었습니다.
지금 이 순간, 많은 기업들은 여전히 기존의 프로세스에 AI를 억지로 끼워 맞추고 있습니다. 하지만 Brex가 경험한 진정한 혁신 은 기존 방식을 완전히 제쳐두고, 오늘날 회사를 어떻게 구축할지 상상하며 프로세스를 근본부터 재설계했을 때 일어났습니다.
에이전트 기반 AI 인프라: 자유로운 에이전트의 힘
기존의 AI 도입 방식에서 가장 흔한 실수는 LLM을 과도하게 통제된 환경에 가두는 것 입니다. 많은 개발자들은 마치 "Foxconn 공장"처럼 LLM이 "보는 것"을 꼼꼼하게 제어하려고 합니다. 수많은 if 문을 통해 제한적인 환경을 만드는 것입니다.
페드로는 이와 다른 접근을 주장합니다: "에이전트에게 자율성을 부여하라" 에이전트를 "자신만의 의지와 욕구"를 가진 존재로 다뤄야 합니다. 이는 마치 에이전트를 "Esalen Research Institute"의 자유로운 환경에 참석하게 하는 것과 같습니다.
페드로가 Brex에서 구현한 핵심 솔루션은 "CrabTrap" 이라는 오픈소스 도구입니다. 이는 HTTP 프록시를 통해 네트워크 계층에서 에이전트의 모든 상호작용을 관리합니다. 복잡한 코드 제어가 아닌, ** 네트워크 수준의 보안**으로 문제를 해결한 것입니다.
실제 작동 방식:
- 에이전트가 요청을 할 때마다 해당 요청은 감사 가능해집니다
- 다른 에이전트가 트래픽을 분석하고 정책을 수립합니다
- 자동으로 승인 가능한 요청(약 98%)은 즉시 처리됩니다
- 불확실한 요청(약 2%)은 LLM이 정책에 따라 판단합니다
흥미롭게도, 수천억 개의 웹 문서로 훈련된 모델들은 HTTP 트래픽 분석에 매우 뛰어납니다. 모델이 수천 개의 요청 패턴을 관찰하고 무슨 일이 일어나고 있는지 해석하는 능력은 예상했던 것보다 훨씬 뛰어났습니다.
Brex의 채용 에이전트 "Jim"의 사례는 이 접근법의 효과를 잘 보여줍니다. Jim에 대한 정책에서 트래픽의 98%는 자동으로 승인되고, 나머지 2%만 LLM의 판단을 받습니다. 이 수준의 자동화 덕분에 엔터프라이즈급 운영에서도 더 적극적으로 실험 할 수 있게 되었습니다.
AI 도입의 세 가지 계층: 토큰 맥서부터 일반 사용자까지
기업의 AI 도입 현황을 분석하면 명확한 차이가 드러납니다. 페드로는 이를 세 가지 계층 으로 분류합니다:
첫 번째 계층: "토큰 맥서(Token Maxers)"
- 코딩 하네스에 깊이 몰두한 엔지니어들
- AI를 완전히 활용하여 코드를 푸시합니다
- 조직 내에서 잘 알려져 있습니다
두 번째 계층: "평균적인 엔지니어"
- 일부 작업에 AI를 사용하지만 잠재력을 충분히 활용하지 못합니다
- 토큰 맥서 생산성의 약 10분의 1 정도를 달성합니다
세 번째 계층: "Google 검색 모드"
- 회사 대부분을 차지합니다
- 제한된 기능이나 G Suite 통합을 가진 챗봇만 사용합니다
- 주로 검색 도구로 AI를 이용합니다
문제는 비기술 팀과 일반 직원들도 진정한 AI의 가치를 경험해야 한다 는 점입니다. 단순한 채팅 인터페이스가 아닌, 수동 코딩 없이 에이전트의 기능을 스스로 부트스트랩할 수 있는 도구 가 필요합니다.
Claude 같은 제품들이 큰 성과를 이룬 이유가 바로 이것입니다. 마크다운과 같은 간단한 입력 을 사용하여 에이전트와 그 환경을 구성할 수 있게 만들었습니다. 이는 코딩 없이 자체 부트스트랩의 한계를 뛰어넘는 것입니다.
페드로와 팀이 Y Combinator 스타트업 스쿨을 위해 60개의 저녁 식사를 조직할 때 이를 직접 경험했습니다. 그들은 Claude를 Slack에 통합한 후 "마크다운을 생성하고 분석을 수행하라"고 지시했을 뿐입니다. 클로드가 스스로 코드를 작성했습니다. 사람들이 종종 "Claude Code가 마법"이라고 생각하지만, 실은 ** API를 통해 접근할 수 있는 기존 모델을 둘러싼 하네스**일 뿐입니다.
근본적인 재설계: KYC에서 배우는 교훈
Brex가 AI를 도입하면서 배운 가장 중요한 교훈은 기존 프로세스를 개선하는 것이 아니라, 전체 프로세스를 재설계해야 한다 는 것입니다.
기존 방식:
- KYC(고객 알기) 프로세스의 80%는 자동화 가능
- 20%는 수동으로 처리
많은 회사들은 이 수동 처리되는 20%를 자동화하려고 시도합니다. 하지만 Brex는 다른 접근을 했습니다. 전체 엔드투엔드 프로세스를 완전히 재설계 한 것입니다.
이 재설계 과정에서 페드로의 팀은 퍼널 초기 단계의 거래 적격성 판단 의 중요성을 깨달았습니다. 핵심 질문은 "이 고객이 우리 서비스에 조금이라도 적합한가?"였습니다.
AI를 활용하면 KYC는 사실상 무료가 될 수 있습니다. 그리고 더 중요한 것은, 고객이 되기 전에도 잠재 고객의 자격을 심사할 수 있다는 점입니다. 이는:
- 퍼널 초기에 위험 지향적인 접근 방식 도입
- 누가 자격을 갖출지에 대한 더 나은 이해 도출
- 목표 고객까지도 재정의
신용(Credit) 문제에도 동일한 원칙이 적용됩니다. 문제의 핵심 균형 자체가 이동 했습니다. 이전에는 "위험을 최소화하는 것"이 목표였다면, 이제는 "올바른 위험을 선택하는 것"이 목표가 되었습니다.
경쟁사와의 차이:
- 많은 기업: 기존 프로세스나 제품에 AI를 억지로 끼워 맞춤
- Brex: 기존 방식을 제쳐두고, 오늘날 회사를 어떻게 구축할지 상상 하며 재설계
이 접근법은 창업자의 상당한 노력을 필요로 하지만, 진정으로 혁신적인 변화를 이끌어내는 유일한 방법 입니다.
문제의 정의부터 시작: "왜 AI로 안 되는가?"
페드로는 모든 CEO에게 컴퓨터에 포스트잇을 붙일 것 을 제안합니다:
"아침에 일어났을 때, 당신의 삶에 어떤 문제가 있든, 왜 AI로 해결할 수 없는가?"
대부분의 문제(약 80%)는 챗봇을 사용해 해결할 수 있습니다. 하지만 해결할 수 없는 20%에 주목해야 합니다. 그 이유를 파악하고, 그것을 해결하는 무언가를 만드는 것입니다.
이 접근법의 가치는 단순히 대규모의 즉각적인 유용성 만이 아닙니다. 더 중요한 것은 매일 상호작용 없이는 얻기 어려운 기술의 가능성에 대한 실제적인 감각 을 준다는 점입니다.
경제적 합리성:
- 기업이 토큰을 최대한 활용해야 하는 이유는 순수한 비용 효율성만이 아님
- 기술의 가능성을 감지하는 것이 더 큰 이유
- 토큰 비용이 10배 감소하더라도 사용량이 10배 증가하면 여전히 큰 비용
흥미로운 데이터:
- 전 세계 인구의 84%는 AI를 사용해본 적이 없습니다
- 16%는 무료 챗봇을 최소 한 번 사용했습니다
- 0.3%만이 AI에 월 20달러를 지불합니다
- 단 0.04%만이 실제로 AI 에이전트를 사용 합니다
이는 "추론(Inference)에 대해 낙관해야 한다"는 주장 으로 이어집니다. 현재 상태는 정말 초기 단계입니다. 사람들은 10,000배 성장을 이야기하고 있으며, 기업이 토큰 지출을 관리하는 방법을 고민하는 시간이 많습니다.
AI 시대 기업 구조의 근본적 변화
현대 기업이 직면한 가장 큰 도전은 기존의 "Foxconn 공장" 방식의 극단적 효율성 에서 벗어나는 것입니다. 과거의 회사들은 "하나의 작업을 완벽하게 반복하도록" 설계되었습니다. 하지만 AI 시대의 회사는 변화를 수용하도록 설계되어야 합니다.
변화를 위해서는 기존 질서를 깨뜨리는 것이 필요합니다. 하지만 누가 이를 할 수 있을까요?
- CEO: 가장 쉬운 입장
- 임원: CEO보다 10배 어려움
- 직원: 임원보다 10배 어려움
직원이 새로운 AI 활용을 시도할 때, 미숙한 테스트 사례나 기타 이유로 거부당할 수 있습니다. 사람들은 종종 위험보다는 ** 기존의 작동 방식을 고수하는 것이 더 쉽다**고 생각합니다.
조직 문화에서 모든 방해는 사회적 결속에 대한 항체 처럼 작용합니다. "저 사람이 나를 싫어할 거야. 매일 점심시간에 그 사람을 봐야 하니까..." 이런 식의 생각이 변화를 가로막습니다.
CEO의 역할:
- "우리는 이걸 시도할 거야"라고 명확히 선언
- "위험을 이해해. 이 위험을 감수하자"고 지시
- 가장 큰 위험은 이 기회를 잡지 않는 것 임을 강조
페드로가 강조하는 핵심은 CEO가 10시간이 걸릴 회의와 승인 과정을 거치지 않고, 10초 만에 결정을 내릴 수 있다 는 점입니다. 이것이 진정한 리더십입니다.
에이전트 기반 아키텍처와 도메인 특이성
페드로는 "모든 데이터 조각을 하나의 렌즈로 바라보는 단일 회사 모델"을 믿지 않습니다. 대신 ** 도메인 특이성**을 강조합니다.
핵심 아이디어:
- 가상 직원을 어떻게 구축할지에 더 초점
- 고객에 대한 모든 것을 예외적으로 이해하는 에이전트 구축
- 명확한 경계와 API를 가진 잘 정의된 문제 해결
Brex의 "고객 모델":
- 고객 대시보드에서의 버튼 클릭
- 고객이 이메일, 전화에서 말한 내용
- 고객과의 모든 접점 데이터 통합
- 고객이 다음에 무엇을 필요로 하는지 파악
- 아직 직면하지 않았지만 앞으로 직면할 문제 예측
실제 효과:
- 페드로는 내일 고객과 점심을 먹기 전에 고객 모델로부터 리포트를 받음
- 팀이 모르던 정보까지 포함된 완전한 정보 인지도 달성
- 지원 티켓, 출장 중 공항에서의 자동차 문제 등 다양한 경로의 데이터 통합
이것은 잘 정의된 문제이며, 실제로 작동합니다. 이 빌딩 블록을 회사 모델 전체의 일부로 신뢰할 수 있으며, 그 위에 평가(Evals)를 추가할 수 있습니다.
지속적 학습과 개선: 평가 시스템의 통합
Brex가 구축한 가장 혁신적인 시스템 중 하나는 모든 인간 상호작용을 평가로 변환하는 방식 입니다.
작동 원리:
온보딩 에이전트가 특정 작업을 수행하면:
- 모델이 파악할 수 없는 KYC 예외 사항을 검토하는 팀 존재
- 이 수동 상호작용이 평가 사례가 되는 것
- 문제가 발견되면 버그가 됨
- 이 버그는 에이전트를 트리거하여 코드베이스와 프롬프트 수정
- 평가를 통과하도록 개선
Brex의 보안 에이전트 사례:
- 누군가가 에이전트와 대화하는 중 문제가 발생
- 대화가 매끄럽지 않다고 느껴지면 이것은 버그
- 엔지니어가 들어가서 평가를 통과시키는 방법 찾음
궁극의 목표:
- 모든 것을 스스로 학습하는 시스템 구축
- 매일 밤 모든 상호작용을 파악
- "어떤 패턴이 있을까? 이걸 어떻게 다시 시작할까?" 자문
많은 회사들이 에이전트를 운영하는 데 많은 시간을 할애하지만, 에이전트가 매일 개선되도록 하는 방법 을 생각하지 않습니다. 페드로는 이것이 "가장 큰 잠재력의 잠금 해제" 라고 강조합니다.
AI와 인간의 협력: 여전히 필요한 인간적 통찰
AI가 엄청난 능력을 갖추었지만, 여전히 인간만이 할 수 있는 중요한 역할 이 있습니다.
LLM의 근본적 한계:
- 특정 정보 코퍼스로 훈련됨
- 특정 벤치마크와 결과에 최적화됨
- 훈련 데이터의 "분포"에 따라 답변의 신뢰도가 달라짐
구체적 예시:
- LLM에 회계 분류에 대해 물었을 때, 첫 번째 예시로 "AI CAPEX"를 제시한다면
- 아마도 해당 모델을 구축하는 사람들이 주로 AI CAPEX에 대해 생각하기 때문
- LLM의 기본 정신 모델 자체가 편향 되어 있음
이를 극복하는 방법:
- 외부 데이터를 모델에 주입
- 예: 식당 운영에 관심이 있다면, 상위 500권의 관련 책을 모두 읽게 할 수 있음
- 모든 정보의 개요를 얻을 수 있음
고객 세계 모델(Customer World Model):
- Brex에서 하는 일의 상당 부분
- 고객이 대시보드에서 버튼을 클릭하는 횟수부터 이메일, 전화 통화 내용까지 모든 접점 파악
- 그 데이터를 수집하고 통합
- 고객이 다음에 무엇을 필요로 하는지 이해
이는 배포(Distribution) 문제 입니다. RAM에 한계가 있는 한, 계속해서 인간의 역할이 필요합니다. 우주에는 모든 분포를 포괄할 만큼 충분한 매개변수를 가진 모델을 만들 수 있는 원자가 없기 때문입니다.
창업자의 진정한 역할: 선택의 지혜
이 AI 시대에 창업자가 해야 할 일이 줄어들지 않았습니다. 오히려 더욱 중요한 역할 로 진화했습니다.
AI가 할 수 없는 것:
- 어떤 문제가 해결할 가치가 있는지 결정하기 → 이는 인간의 선택
- 고객의 암묵적인 요구 이해하기 → 이는 감성 지능의 영역
- 미묘한 신호 포착하기 → LLM은 말로 표현되지 않은 것을 이해 못함
성공적인 창업가들의 패턴:
- 고객이 명시적으로 말하지 않을 때에도 고객이 무엇을 생각하고 느끼는지 시뮬레이션
- "마음 이론(Theory of Mind)" 능력 활용
- 이것이 인간이 여전히 가지고 있는 "알파(Alpha)"의 중요한 원천
Stripe, Brex, Airbnb, DoorDash 같은 성공 사례들의 공통점:
- 초기에는 고객에게 최소한의 접점 만 제공
- Stripe는 API, Brex는 터미널, Airbnb는 간단한 양식, DoorDash도 단순한 인터페이스
- 창업자들은 이 제한된 고객 상호작용을 완벽하게 만드는 데 지능과 노력을 집중
AI의 위험:
- 많은 것을 쉽게 "실험"할 수 있는 능력
- 이로 인해 진정으로 중요한 문제를 식별하는 규율 부족
AI 압축 능력:
- AI는 문제를 압축하는 데 도움
- "냅킨 한 장에 담길 수 있어야" 하는 원칙은 여전히 유효
- 너무 광범위한 아이디어는 성공 가능성이 떨어짐
G-Brain: 외부 데이터 활용의 혁명
페드로가 개인적으로 구축한 AI 에이전트 "G-Brain"은 AI와 인간의 협력을 보여주는 흥미로운 사례입니다.
기본 개념:
- 60GB의 Google Takeout 데이터 입력
- 모델이 모든 이메일 분석
- 실제로 중요한 약 4,000개의 이메일 추출
- 이 데이터는 "분포에서 벗어난 것들을 채워 넣는 것"
특별한 기능: LSD (Lateral Synaptic Drift)
- 단순히 검색 온도를 높인 것 이상
- 기존의 좁은 범위 내에서 개념을 결합하는 것을 방지
- 직교하거나 겉보기에 무작위적인 조합 요구
- 수백 개의 무작위 조합 생성 후 일관성에 따라 순위 매김
- 상위 다섯 개는 보통 훌륭한 창의적 결과 로 판명
놀라운 점:
- 페드로는 명시적으로 무미건조하라고 지시하지 않음
- ChatGPT에게 G-Brain 에이전트의 "영혼 파일" 생성하도록 요청
- 모델이 페드로를 깊이 이해하고, 페드로가 원하는 무언가를 정확하게 예측
이는 "이 모델들은 우리에 대해 정말 많이 알고 있구나" 는 깨달음으로 이어졌습니다.
토큰 비용과 기업의 진정한 동인
흥미롭게도, 토큰 비용이 기업 AI 채택의 주요 장애물로 보이지만, 실제 원인은 다릅니다.
현재 현황:
- 뉴욕 같은 고지출 지역에서 엄청난 토큰 소비량
- 이 지역에서 더 빠른 매출 성장 관찰
흥미로운 패러독스:
- 상당한 예산을 가진 매우 큰 기업들
- 경제적으로 합리적이라면 토큰 사용을 극대화해야 함
- 하지만 많은 기업들이 월 단 1만 달러 정도만 지출
- 10배, 20배, 심지어 100배 더 많이 지출해야 할 것으로 추정
왜 이런 현상이 발생할까?
- CEO들이 AI의 가능성을 직접 경험하지 못했기 때문
- 조직에 "AI 우선 사고방식"이 없음
- 기술 한계를 매일 경험하지 않으면 이해할 수 없음
2024년 시점의 회고:
- 2년 반 전: "만약 2024년에 Brex를 다시 시작한다면?"
- 답: "거의 모든 것이 달라질 것"
- 회사의 구조, 제품 개발, 내부 프로세스 모두 다시 생각해야 함
AI 시대의 창업자 지침: 세 가지 실천 방안
페드로는 현재 창업을 꿈꾸는 사람들과 기존 창업가들에게 구체적인 조언을 제시합니다.
첫 번째: 가능성에 경탄하기
- 지금 서 있는 이 순간의 가능성에 그저 경탄
- 전기 발명 후 6개월, 모든 것이 가능한 시점
- 앞으로 밝혀질 모든 것을 이미 알고 있다면, 무엇을 다르게 할 것인가?
- 많은 것을 다르게 할 것이라는 깨달음
- 이 가능성의 순간을 놓치지 말 것
두 번째: "왜 AI로 안 되는가?" 찾기
- 컴퓨터에 포스트잇: "왜 AI로 해결할 수 없는가?"
- 80%는 챗봇으로 가능
- 20%의 예외에 집중
- 그 이유를 파악하고 해결 방안 구축
- 대규모 즉각적 유용성이 아닌, 기술 가능성의 실제적 감각 얻기
세 번째: 토큰 소비량 측정하기
- "왜 한 사람이 할 수 없는가?"라는 전제에서 시작
- "왜 나 혼자 이 모든 것을 만들 수 없는가?"
- 모델의 한계에 부딪힐 것
- 창업자만이 할 수 있는 일에 시간 할애하기
창업자가 집중해야 할 세 가지:
- 어떤 문제가 해결할 가치가 있는지 결정하기 → 이는 선택의 문제
- LLM의 한계 파악하기 → 여전히 할 수 없는 것이 무엇인가?
- 고객과의 대화 → 모델이 훈련받지 않은 미묘한 신호 포착
결론: CEO의 시대적 책임과 기회
현재 시점에서 CEO가 할 일은 명확합니다. 매일 아침 눈을 떴을 때, "이 문제를 AI로 해결할 수 없는 이유가 무엇인가?" 라고 자문하는 것입니다. 거기서부터 시작하면 됩니다.
CEO는 더 이상 단순한 경영진이 아닙니다. 최고 AI 책임자(CAIO) 역할을 해야 합니다. 이는 기술적 세부사항을 관리한다는 의미가 아니라, 기술의 ** 한계와 가능성을 누구보다 깊이 이해**해야 한다는 뜻입니다.
우리는 역사의 전환점에 있습니다. 전기가 발명된 지 불과 6개월이 지난 순간, 모든 것이 변할 기회가 있습니다. 기존 방식에 AI를 끼워 맞추는 시대는 끝났습니다. 오늘날 회사를 어떻게 구축할지 상상하면서 모든 것을 처음부터 재설계하는 시대 가 왔습니다.
토큰 비용은 곧 거의 무료가 될 것입니다. 마치 오늘날 우리가 전기 요금을 거의 의식하지 않는 것처럼 말입니다. 중요한 것은 이 기회를 포착하고, 미래의 조직을 지금 만드는 것 입니다.
CEO들이 이 기술의 가능성에 대해 직접 경험하고, 조직 전체에 "AI 우선 사고방식"을 심어주면, 기업의 구조, 프로세스, 고객 경험 모두가 근본적으로 변할 것입니다. 이것이 진정한 AI 혁명입니다. 바로 시작해야 할 시간입니다.
Original source: The CEO Must Be the Chief AI Officer
powered by osmu.app