AI 에이전트가 소프트웨어와 기업 운영을 어떻게 혁신하는지 알아보세요. a16z 쇼 대담에서 나눈 핵심 인사이트와 실제 사례를 통해 AI의 미래를 예측합니다.
AI 에이전트 시대: 소프트웨어 설계와 비즈니스 혁신의 진화
핵심 요약
- 에이전트 중심 설계: 인간 중심에서 에이전트 중심으로 소프트웨어 설계 패러다임이 전환되고 있습니다
- API 우선 인터페이스: 에이전트는 주로 API와 CLI를 통해 시스템과 상호작용하며 이것이 미래의 표준이 됩니다
- 초능력 부여 메커니즘: 에이전트에게 SaaS 도구, 워크플로우, 실시간 정보 접근 권한을 제공하면 능력이 기하급수적으로 증가합니다
- 보안과 신뢰의 도전: 에이전트의 광범위한 권한은 새로운 보안 위협과 감시 문제를 야기합니다
- 경제 모델의 전환: 토큰 기반 가격 책정과 사용량 기반 요금제가 새로운 기업 비용 구조를 만들고 있습니다
AI 에이전트를 위한 소프트웨어 재설계
현재 우리가 직면한 가장 중대한 전환점은 소프트웨어를 인간이 아닌 에이전트를 위해 설계해야 한다는 인식 입니다. 이것은 단순한 기술적 변화가 아니라 전체 소프트웨어 산업의 기초를 재정의하는 움직임입니다.
지금까지 우리는 인간 사용자의 인터페이스를 중심으로 소프트웨어를 구축했습니다. 하지만 미래에는 에이전트의 수가 인간 사용자의 수보다 수백 배, 수천 배 많을 것이라는 가정하에 소프트웨어 아키텍처 전체를 재구성해야 합니다. 이는 단순히 새로운 기능을 추가하는 것이 아니라, 시스템의 근본적인 구조를 에이전트 우선(agent-first)으로 변경해야 한다는 의미입니다.
현재 가장 주목할 만한 발전은 코딩 에이전트에게 다양한 도구와 정보에 대한 접근을 제공하는 패러다임 입니다. Claude Co-worker, OpenAI의 슈퍼 앱, Perplexity의 컴퓨터 같은 서비스들이 이를 명확히 보여줍니다. 이들은 단순히 데이터를 읽는 것을 넘어 API를 활용해 능동적으로 작업을 수행할 수 있는 "초능력"을 갖추고 있습니다. 이러한 에이전트들이 SaaS 플랫폼, 업무 워크플로우, 맥락별 정보에 접근할 수 있을 때, 그들의 생산성과 효율성은 기하급수적으로 증가합니다.
하지만 이론과 현실 사이에는 상당한 간격이 존재합니다. 많은 전문가들이 알고리즘적 사고의 어려움을 과소평가하고 있습니다. 대다수의 인간 근로자들은 자신의 업무에 대한 상세한 순서도를 작성하는 데 어려움을 겪습니다. 이는 에이전트를 위해 정확하고 반복 가능한 지침을 정의하는 과정이 얼마나 복잡한지를 보여줍니다. 단순히 에이전트 기반 도구를 사람들 앞에 놓는 것만으로는 효과적인 자동화를 달성할 수 없다는 의미입니다.
추상화 계층의 진화와 전문 지식의 역할
AI 에이전트 시대에도 추상화 계층은 계속해서 발전 할 것입니다. 이는 클립이나 매크로 같은 도구가 역사 속에서 어떻게 채택되었는지를 보면 명확합니다. 새로운 기술이 도입될 때마다 일반 사용자들이 모든 것을 다시 배워야 하는 것은 아닙니다. 대신 높은 수준의 추상화 계층이 복잡한 작업을 작은 단위로 나누고, 숙련된 전문가들이 이를 조율합니다.
실제 사례를 보면 Anthropic의 성장 마케팅 사례가 좋은 예입니다. 과거에는 여러 직책의 50명이 필요했던 작업을 AI 자동화를 활용해 한 명의 시스템 사고가 뛰어난 전문가가 처리할 수 있게 된 것입니다. 이러한 전문가는 Google Ads와 Facebook 간의 키워드 이식, 새로운 시장 신호 통합 같은 작업들을 자동화했습니다.
그러나 이것은 단순한 스케일의 문제가 아닙니다. 수요와 공급이 실질적으로 무한할 때, 그것은 근본적으로 다른 종류의 일입니다. 초기 단계에서는 한 명의 똑똑한 사람이 50명의 에이전트를 감독하면서 작은 조각들로 작업을 분해합니다. 시간이 지나면서 이러한 작은 조각들이 더 포괄적인 에이전트 기능으로 통합되어 결국 "마케팅스러운" 에이전트가 마케팅 질문에 독립적으로 응답할 수 있게 될 것입니다.
다만 이 과정의 가장 큰 장애물은 재현 불가능성과 비무작위적 요소입니다. AI 기술이 완전히 신뢰할 수 있는 수준에 도달하기 전까지는, 작업을 수행하는 데 여전히 상당한 인간 개입이 필요합니다. 이것이 바로 우리가 현재 위치한 지점입니다. 마치 새로 직장에 들어간 인턴이 스프레드시트 사용법을 배우지 못했던 것처럼, 현재의 AI 에이전트도 유사한 학습 곡선을 따라가고 있습니다.
컴퓨터 인터페이스: 코드에서 터미널로, 그리고 그 너머로
에이전트와 소프트웨어의 상호작용 방식이 급속도로 진화 하고 있습니다. 우리가 처음 시작했던 지점은 SaaS 소프트웨어 조각에 AI를 추가하는 것이었습니다. 하지만 현재는 정반대 방향으로 나아가고 있습니다.
초기의 극단적 접근 방식은 코딩을 통한 자동화였습니다. 이후 터미널(명령줄 인터페이스)을 통한 상호작용으로 진화했습니다. 현재는 에이전트가 컴퓨터를 사용하는 인간처럼 행동하는 "컴퓨터 사용의 해" 를 맞이하고 있습니다. 이는 매우 중요한 변화입니다. 에이전트들이 코드를 작성하기보다는 실제로 사용자 인터페이스를 통해 일반 사용자처럼 소프트웨어를 조작하는 것입니다.
흥미로운 점은 에이전트가 필요에 따라 기존 API, Box의 도구, 또는 즉석 코드 작성 중 어느 것을 사용할지 결정할 수 있다 는 것입니다. 이 세 가지 능력을 모두 갖추는 것은 엄청나게 유용합니다. 왜냐하면 때로는 특정 작업을 위해 즉석에서 코드를 작성하는 것이 기존 API를 사용하는 것보다 빠를 수 있기 때문입니다.
향후 파레토 법칙이 적용되어 약 20%의 작업이 에이전트 업무의 80%를 차지 하게 될 것입니다. 마치 스마트폰에 7개의 핵심 앱만 있으면 대부분의 사용을 커버할 수 있는 것처럼, 에이전트도 소수의 API와 도구로 대부분의 업무를 처리하게 될 것입니다. 다만 인간과 달리 에이전트는 7개의 도구를 모두 배워야 하는 정신적 부담이 없습니다. 따라서 우리가 제공하는 모든 인터페이스에 적응하고 활용할 수 있습니다.
엔터프라이즈 소프트웨어의 근본적 변화
SAP, Workday 같은 전통 ERP 시스템이 직면한 도전은 단순한 API 접근 문제를 넘어섭니다. 이들 시스템에는 수십 년에 걸쳐 축적된 방대한 도메인 지식이 내장되어 있습니다. 이 지식은 데이터 레이어뿐만 아니라 UI, 미들 티어, 그리고 사용 방식 자체에 분산되어 있습니다.
현재 SaaS 제공업체들이 직면한 딜레마는 다음과 같습니다:
- 수익화 모델의 변화: 과거에는 UI를 통한 접근을 기반으로 가격을 책정했지만, 에이전트는 데이터 라이선스를 원합니다
- API 접근성 확대의 부담: 무제한의 데이터 접근을 제공하면 수익 모델이 붕괴될 수 있습니다
- 기록 시스템의 재정의: "기록 시스템"이 무엇인지에 대한 정의 자체가 변하고 있습니다
하지만 장기적으로는 에이전트가 효과적으로 작동할 수 없는 소프트웨어는 자연스럽게 도태 될 것입니다. 충분한 세대가 지나면 에이전트들은 "이 레거시 HR 시스템 때문에 이 워크플로우를 자동화할 수 없습니다"라고 명확히 지적하게 될 것입니다. 결국 비즈니스 가치는 에이전트가 정보에 얼마나 잘 접근할 수 있는지에 따라 결정 될 것입니다.
보안, 신뢰, 그리고 통제의 새로운 패러다임
에이전트 시대로의 전환이 가져오는 가장 복잡한 문제는 보안과 통제 메커니즘 입니다. 현재의 접근 방식 중 일부는 근본적인 결함을 가지고 있습니다.
인간을 에이전트처럼 취급할 수 없는 이유 는 여러 가지입니다:
- 일반적인 직원들은 당신이 그들의 슬랙 채널을 볼 수 없습니다
- 당신이 그들로 로그인할 수도 없고, 감독할 수도 없습니다
- 현실 세계에서의 행동에 대해 책임을 지므로, 당신이 처벌받지 않습니다
- 직원은 개인 정보 보호권을 가집니다
에이전트의 경우는 정반대입니다. 모든 에이전트의 행동에 대해 당신이 완전히 책임 을 져야 합니다. 당신은 완전한 감시 권한을 가져야 하며, 실제로 그럴 것입니다. 이것이 에이전트를 단순히 인간처럼 취급할 수 없는 이유입니다.
현재 많은 조직에서 취하고 있는 대응 방식은 에이전트에게 자체 신용 카드나 격리된 계정을 제공 하는 것입니다. 이는 개인 생산성에는 훌륭하지만, 기업 환경에서는 근본적인 문제를 해결하지 못합니다.
프롬프트 주입(prompt injection) 공격의 위험성도 심각합니다. 에이전트가 컨텍스트 윈도우에서 정보에 접근할 수 있다면, 이론적으로 그 정보는 언제든 프롬프트 주입을 통해 유출될 수 있습니다. 만약 당신의 에이전트의 이메일 주소를 알고 있는 누군가가 이메일을 보낸다면, 일반 사람보다 훨씬 쉽게 사회 공학적 조작이 가능합니다. 에이전트가 M&A 문서에 접근하고 있다면 더욱 위험합니다.
기업과 스타트업 간의 격차 심화
현재 일어나고 있는 현상 중 하나는 기업과 스타트업 사이의 기술 채택 속도 격차 입니다.
스타트업의 입장:
- 보호해야 할 유산 시스템이 없습니다
- 에이전트가 폭주하더라도 손실이 최소합니다
- 규제 제약이 상대적으로 적습니다
- 따라서 매우 빠르게 혁신할 수 있습니다
기업의 입장:
- 기존 ERP 시스템, 데이터 거버넌스, 규정 준수 요구사항이 있습니다
- 데이터 유출이나 접근 제어 오류의 비용이 매우 큽니다
- CFO들의 위험 회피 심리가 강합니다
- 따라서 보수적으로 움직일 수밖에 없습니다
이러한 격차는 매우 흥미로운 동학을 만들어냅니다. 스타트업들이 새로운 에이전트 기술로 시장에 진입하고, 개인 개발자들이 혁신의 최전선에 서는 동안, 큰 기업들은 컴플라이언스와 보안 문제를 해결하느라 뒤처질 수 있습니다. 이는 결국 기업 내에서 "섀도우 IT" 현상을 심화시킬 수 있습니다. 개발자들이 기업 IT 부서를 우회하고 개인적으로 에이전트를 구매하기 시작하는 상황이 발생할 수 있다는 의미입니다.
온프레미스 컴퓨팅의 재부상
흥미롭게도, AI 에이전트의 도입으로 인해 온프레미스 데이터 센터 구축이 다시 주목받고 있습니다.
클라우드 컴퓨팅의 역사를 보면:
- 2000년대 초: CapEx(자본 지출)에서 OpEx(운영 지출)로의 전환
- 2000년대 중반~2010년대: 클라우드 극대주의 시대
- 2010년대 중반~2020년대: 에지 컴퓨팅의 부상
- 현재: 온프레미스 데이터 센터 재구축
이러한 변화는 AI 토큰 기반 가격 책정이 기업 컴퓨팅 비용 구조를 근본적으로 변화 시키기 때문입니다. 토큰 소비가 계산할 수 없을 정도로 빠르게 증가하면서, 기업들은 자체 데이터 센터에서 모델을 실행하는 것을 고려하기 시작했습니다.
경제 모델과 가격 책정의 근본적 변화
AI 에이전트 시대로의 전환이 만드는 가장 대규모의 경제적 영향은 새로운 가격 책정 및 비용 분배 모델 입니다.
현재의 도전:
- 토큰 기반 가격 책정: 모든 기업이 미스터리한 토큰 사용량을 이해하려 노력 중입니다
- CFO의 악몽: R&D 예산의 14-30% 중에서 얼마를 AI 토큰에 할당해야 할까요?
- 예측 불가능성: 주당순이익(EPS)에 직접적인 영향을 미치기 때문에 월스트리트가 매우 관심 있어합니다
이는 과거의 기술 전환과 유사합니다. PC 시대에 사람들은 MIPS(백만 명령/초) 의 가치를 이해하지 못했습니다. 클라우드 시대에도 마찬가지였습니다. AWS가 초기에 나왔을 때, 많은 기업들은 무제한 OpEx 지출의 의미를 파악하지 못했습니다.
Salesforce의 성장 역사가 이를 잘 보여줍니다. CRM 시장은 원래 연 20억 달러 규모였고, 모두 온프레미스 설치와 Oracle 라이선스에 들어갔습니다. 하지만 SaaS 모델을 통해 개별 영업사원이 마찰 없이 가입할 수 있게 하자, 시장이 수십 배로 확장 되었습니다.
AI 에이전트도 동일한 경로를 따를 것입니다:
- 초기: 비용 통제와 예산 관리에 집중
- 중기: 대량 라이선스 및 구독 모델로의 전환
- 장기: 토큰당 가격이 하락하면서 완전히 새로운 비즈니스 모델 출현
API와 시맨틱 품질의 중요성
API의 품질이 단순한 기술적 우수성 이상의 의미 를 갖게 됩니다. 많은 사람들이 "에이전트를 위해 좋은 IDL(Interface Definition Language)을 가진 API를 만들어야 한다"고 말하지만, 이는 부분적으로만 맞습니다.
에이전트는 문서화의 미학이나 인터페이스의 우아함보다는 시맨틱(의미론적) 특성 을 훨씬 더 중요하게 봅니다. 예를 들어, 에이전트들은:
- 비용 파라미터를 분석합니다
- 확장성과 내구성을 평가합니다
- 사용 기록과 통합 관례를 학습합니다
이는 마치 에이전트가 플랫폼을 사용한 수년간의 집단 지혜를 갖춘 것처럼 행동한다는 의미입니다. 클라우드 플랫폼을 선택할 때, 에이전트는 인터페이스의 친근함이 아니라 실제로 의미 있는 기술적 특성 을 기준으로 선택합니다.
따라서 소프트웨어 회사가 에이전트 시대에 생존하려면:
- 고품질의 API를 제공해야 합니다
- 접근 제어와 신원 관리를 구현해야 합니다
- 사용량 기반 수익화 모델을 개발해야 합니다
- 무엇보다 더 나은 기술 선택을 해야 합니다
에이전트가 "이 도구보다 저 도구가 낫다"고 판단하면, 기업은 자연스럽게 그것을 채택하게 될 것입니다. 마케팅이나 세일즈 전략으로는 막을 수 없습니다.
소프트웨어 스택의 미래와 계층 붕괴 논의
현재 AI 커뮤니티에서는 두 가지 상반된 미래상이 논쟁 중입니다.
첫 번째 관점 (계층 붕괴):
프롬프트가 직접 기계 코드로 변환되는 세상. 과거의 모든 인터페이스와 계층이 사라지고 완전히 새로운 구조가 등장하는 시나리오입니다.
두 번째 관점 (계층 진화):
시스템의 역사가 보여주듯이 계층은 절대 사라지지 않으며, 단지 다양한 형태로 변화할 뿐입니다. 이 계층들은 호환성, 조직 경계, 상태 관리의 필요성 때문에 계속 존재합니다.
현재까지의 증거는 두 번째 관점을 지지하고 있습니다.
예를 들어:
- ERP 시스템: 1970년대 SAP가 출발했을 때의 가정들과 현대의 가정들이 다릅니다. 하지만 완전히 다시 설계하더라도 10년 이상 사용되지 못합니다
- 자동차 산업: LIDAR가 과거에는 필수였지만, 비전 기반 자율주행으로 전환 중입니다. 하지만 과도기는 10-15년 이상 걸립니다
- 클라우드의 역사: 온프레미스와 클라우드의 완전한 대체가 예상되었지만, 오늘날 하이브리드 모델이 표준입니다
계층이 존재하는 이유는 단순한 기술적 필요성뿐 아니라 조직적, 운영적 필요성 때문입니다. 따라서 AI 에이전트 시대에도 계층은 계속 진화할 것입니다.
새로운 비즈니스 모델의 등장
AI 에이전트가 가져올 가장 흥미로운 기회 중 하나는 완전히 새로운 비즈니스 모델의 출현 입니다.
현재 경제적 가치에 비해 약 100배 정도 저활용되고 있는 정보와 소프트웨어 가 매우 많습니다. 이는 누군가 데이터 한 조각에 5센트를 지불하거나 도구를 사용하기 위해 1달러를 지불하고 싶어 하지 않기 때문입니다.
하지만 에이전트가 등장하면 상황이 달라집니다:
- 예산과 작업 프로토콜을 부여받은 에이전트는 의료 연구를 찾아내기 위해 3달러를 지불할 수 있습니다
- 에이전트가 거래를 체결할 수 있다면, 완전히 새로운 가격 책정 모델이 가능합니다
- 인터넷의 새로운 미시 거래(micropayment) 생태계가 형성될 수 있습니다
이는 음악 스트리밍이 개별 곡의 가격 책정을 근본적으로 변화 시킨 것처럼, AI 에이전트는 소프트웨어와 데이터의 가격 구조 전체를 재편할 것입니다.
인프라 수요의 급증
AI 에이전트 시대로의 전환이 만드는 또 다른 거대한 기회는 컴퓨팅 인프라에 대한 수요의 폭증 입니다.
포트폴리오 데이터를 보면, 인프라 회사들이 지난 6개월간 점근적 성장(asymptotic growth) 을 경험하고 있습니다. 이는 기업 고객 확보 때문이 아니라, 단순히 훨씬 더 많은 소프트웨어가 작성되고 있기 때문 입니다.
이것은:
- 더 많은 에이전트의 등장
- 더 많은 프롬프트 실행
- 더 높은 인프라 사용량
- 더 큰 데이터 센터 수요
를 의미합니다.
현재는 아직 디바이스 내 AI 컴퓨팅이 본격화되지 않았습니다. 모든 스마트폰이 온-디바이스 AI를 본격적으로 소비하기 시작하면, 컴퓨팅 수요는 10억 배 증가 할 것입니다.
역사적으로 모든 기술 시대마다 "작은 가격의 거래(micropayment)"가 해결책이 될 것 이라는 예측이 있었습니다. 하지만 실제로는 기업들이 대량 라이선스를 구매하는 것이 더 저렴하고 간편 합니다. 이는 예측 가능성과 운영의 단순성을 선호하는 인간의 특성 때문입니다.
미래 시나리오와 불확실성
미래는 명확하지 않지만, 몇 가지 확실한 트렌드가 있습니다:
단기 (1-2년):
- 스타트업과 개인 개발자들의 혁신 속도가 기업의 10배 이상
- 보안과 컴플라이언스 문제로 인한 기업의 보수적 태도 지속
- 토큰 가격 책정에 대한 혼란과 CFO의 예산 조정
중기 (3-5년):
- 에이전트 친화적 소프트웨어가 시장에서 선호받기 시작
- 기존 ERP 시스템들의 API 개방 가속화
- 새로운 가격 책정 모델의 정착
장기 (5년 이상):
- 토큰 가격의 대폭 하락 (역사적 패턴 반복)
- 에이전트를 중심으로 설계된 새로운 소프트웨어 스택의 등장
- 완전히 새로운 비즈니스 모델의 주류화
결론
우리는 소프트웨어 설계와 비즈니스 운영의 패러다임 전환점에 있습니다. AI 에이전트가 인간 사용자보다 훨씬 많아질 미래에서는, 모든 소프트웨어가 에이전트를 중심으로 재설계되어야 합니다.
이 전환은 단순한 기술적 변화를 넘어 조직 구조, 가격 책정 모델, 보안 프레임워크 전체에 영향을 미칠 것입니다. 스타트업들이 기업들보다 먼저 이 새로운 세상에 적응하면서 기술 격차가 심화될 것입니다. 하지만 충분한 세월이 지나면 시장 원리에 따라 더 나은 기술이 자연스럽게 선택받을 것입니다.
가장 중요한 것은 지금 당장 구축을 시작하는 것 입니다. 표준은 나중에 만들어집니다. 시장의 선택이 표준을 결정합니다. 그리고 에이전트들은 가장 똑똑한 선택을 할 것입니다.
Original source: The Era of AI Agents | Aaron Levie on The a16z Show
powered by osmu.app