OpenAI 플랫폼 엔지니어링 책임자 셜윈 우가 말하는 AI와 코딩의 미래, 엔지니어의 역할 변화, 그리고 향후 12-24개월 기술 전망을 한눈에 정리했습니다.
AI 시대 소프트웨어 엔지니어의 미래: OpenAI 플랫폼 엔지니어링 책임자의 통찰
핵심 요약
- 엔지니어의 역할 변화: 코드를 직접 작성하는 것에서 AI 에이전트를 관리하는 '기술 리드'로 진화 중
- 생산성 혁신: Codex를 활용하는 엔지니어들이 약 70% 더 많은 풀 리퀘스트(PR)를 처리
- 원인 분석과 해결책: 대부분의 AI 배포가 실패하는 이유는 상향식 도입 전략의 부재
- 모델의 진화 속도: 기존 AI 도구들이 모델의 개선에 의해 빠르게 구식이 되는 '스캐폴딩 섭식' 현상 발생
- 거대한 기회: 일인 10억 달러 스타트업 시대의 도래와 B2B SaaS의 황금기 예상
Codex의 생산성 혁신: 수치로 증명된 효과
OpenAI 내에서 Codex의 영향은 객관적으로 측정 가능합니다. Codex를 활발하게 사용하는 엔지니어들은 그렇지 않은 엔지니어들보다 약 70% 더 많은 풀 리퀘스트를 처리합니다. 그리고 이 격차는 시간이 지남에 따라 계속 벌어지고 있습니다.
더욱 놀라운 점은 OpenAI의 코드 검수 프로세스입니다:
- 100% of PR reviews: 모든 풀 리퀘스트가 Codex에 의해 검토됨
- 시간 단축: 코드 검수 시간이 10-15분에서 2-3분으로 단축
- 품질 보장: Codex의 검수는 기존의 인간 검수자 수준의 두 번째 관점을 제공
흥미로운 관찰은 엔지니어들이 시간이 지남에 따라 Codex의 능력을 점점 더 신뢰한다는 것입니다. 처음에는 의심했던 엔지니어들도 매일 이 도구의 능력에 놀라며, 신뢰도가 지속적으로 증가합니다.
OpenAI 내부의 한 팀은 100% Codex로 작성된 코드베이스를 유지하는 실험을 진행 중 입니다. 이 팀은 문제를 마주했을 때 'escape hatch'가 없습니다. 즉, 직접 손으로 수정할 수 없다는 뜻입니다. 이러한 제약 속에서 팀은 흥미로운 통찰을 얻고 있습니다:
주요 발견: 대부분의 경우 Codex 에이전트가 작업을 수행하지 못하는 이유는 문제의 정의가 명확하지 않거나 충분한 컨텍스트 정보가 부족하기 때문입니다. 해결책은 코드 주석, 파일 구조, Markdown 파일 등을 통해 더 많은 정보를 제공하는 것입니다.
AI 배포의 실패: 왜 많은 기업이 음의 ROI를 경험하는가?
흥미로운 역설이 있습니다. OpenAI와 같은 기업들은 AI 도구로 생산성을 극대화하고 있지만, 많은 일반 기업들의 AI 배포는 실제로 부정적인 ROI를 기록하고 있습니다.
셜윈 우는 이 현상의 근본 원인을 분석합니다:
첫 번째 문제: 기술 이해도의 부족
실리콘 밸리 밖의 대부분 기업들은 AI 기술의 기본을 이해하지 못합니다. 기술 전문가들이 다루는 고급 기법들(스킬, 에이전트, MCP 등)은 커녕, 가장 기초적인 활용법도 제대로 파악하지 못하고 있습니다. 많은 직원들이 매우 단순한 질문을 AI에 던지고 있으며, 기술의 진정한 잠재력을 발휘하지 못합니다.
두 번째 문제: 상향식 채택의 부재
대부분의 실패한 AI 배포는 순전히 하향식(top-down) 방식입니다:
- CEO나 경영진이 "AI-first 기업이 되자"고 선언
- 도구를 구매하고 임직원에게 사용을 강제
- 하지만 실제로 일을 하는 직원들의 열정과 참여가 없음
- 동료들이 사용하는 사례가 없어서 배우거나 공유할 문화가 형성되지 않음
성공의 공식: 상향식 운동의 필요성
셜윈 우는 성공한 AI 배포가 다음의 조합을 가지고 있음을 관찰했습니다:
- 상위 수준의 구매: 경영진의 의지와 지원 ✓
- 하위 수준의 열정: 실제 일을 하는 직원들의 진정한 관심과 학습 의욕 ✓
이 두 가지가 모두 충족될 때, AI는 진정한 변화를 가져옵니다. OpenAI 자체도 이 원칙을 따릅니다. 경영진의 AI-centric 철학과 함께, 실제 직원들이 Codex를 자신의 업무에 적용하기 시작했을 때 비로소 AI 혁명이 일어났습니다.
권장 전략: 'Tiger Team' 구성
셜윈 우의 조언은 명확합니다. 기업들은 전사적 AI 도입을 추진하기보다, 먼저 작은 규모의 'Tiger Team'을 구성하라 는 것입니다:
- 기술에 가장 열정적인 사람들을 확인
- 이들이 AI의 모든 가능성을 탐구하도록 지원
- 특정 업무 흐름에 AI를 적용하는 방법을 발견
- 조직 전체에 지식 공유 및 흥분을 전파
흥미로운 점은 이러한 팀의 리더가 꼭 소프트웨어 엔지니어일 필요가 없다는 것입니다. 기술 전문가가 아니더라도 Excel을 자유롭게 다루는 Support 운영 리더나 기술에 관심이 많은 임직원이 종종 가장 효과적입니다. 이들이 AI 에반젤리스트 역할을 하면서 조직 내 열정이 번져나갑니다.
고객의 말을 따르지 말라: 모델의 급속한 진화가 만드는 딜레마
AI 업계에서 가장 역설적인 조언 중 하나는 고객의 피드백을 항상 따르는 것이 옳지 않다 는 것입니다. 이는 전통적인 제품 관리 원칙에 정면으로 배치됩니다.
그 이유: 모델의 진화 속도가 너무 빠르다
AI 분야는 매우 빠르게 변합니다. 모델 자체가 계속 개선되면서, 기존의 많은 '스캐폴딩'(보조 구조)들이 빠르게 구식이 됩니다. 이를 Finn Tool 창립자 Nicholas는 멋진 표현으로 설명했습니다: "모델이 당신의 스캐폴딩을 아침 식사처럼 집어삼킨다"
실제 사례로 보는 스캐폴딩의 진화:
2022년 ChatGPT가 출시되었을 때, 모델은 상당히 원시적이었습니다. 이를 보완하기 위해 많은 도구들이 만들어졌습니다:
- Agent Frameworks: 모델을 제어하기 위한 복잡한 에이전트 프레임워크
- Vector Stores: 조직의 컨텍스트를 제공하기 위해 모든 문서를 벡터화하고 최적화
- Retrieval-Augmented Generation (RAG): 특수한 검색 시스템을 통한 정보 제공
하지만 모델이 개선되면서, 이 모든 것들이 필요 없어졌습니다. 현재의 최신 모델들은:
- 더 이상 복잡한 에이전트 프레임워크 없이도 작동
- 일반적인 검색 도구(파일 시스템 검색 등)로도 충분
- 심지어 더 간단한 구조가 더 나은 결과를 낼 수 있음
미래를 예측하는 능력의 중요성
따라서 성공적인 AI 제품 개발은 고객이 지금 요청하는 것(벡터 저장소의 개선, 더 나은 에이전트 프레임워크)이 아니라, 모델이 어디로 향하고 있는지 예측하는 것 입니다.
Kevin Weil, OpenAI의 과학 담당 VP는 이를 명확하게 표현했습니다: "이것이 모델이 가질 수 있는 최악의 상태입니다" - 즉, 모델은 계속 개선될 것이고, 오늘의 문제는 내일은 존재하지 않을 수 있다는 뜻입니다.
이 환경에서 경영진이나 리더들에게 필요한 것은 단순히 고객의 말을 듣는 것이 아니라, 시장의 '로컬 최댓값(local maximum)'에 갇히지 않고 더 큰 그림을 바라보는 능력입니다.
일인 10억 달러 스타트업의 시대: 예상하지 못한 2차, 3차 효과들
"일인 10억 달러 스타트업" - 이 개념은 AI 시대를 가장 잘 설명하는 아이디어 중 하나입니다. 한 사람이 AI 도구의 도움으로 10억 달러 규모의 기업을 만들 수 있다는 의미입니다.
하지만 셜윈 우는 대부분의 사람들이 이 개념의 2차, 3차 파급 효과를 제대로 인식하지 못하고 있다 고 지적합니다.
1차 효과: 일인 기업의 증가
개인이 엄청난 생산성을 갖게 되면, 자연스럽게 혼자서도 거대한 사업을 운영할 수 있게 됩니다.
2차 효과: B2B SaaS의 황금기 도래
하지만 더 중요한 것은 이를 지원하는 생태계 입니다. 일인 기업이 번영하려면, 그들을 위한 맞춤형 소프트웨어를 구축하는 수십 개의 작은 스타트업이 필요합니다:
- 팟캐스터와 뉴스레터 작성자를 위한 고객 지원 봇
- 블로거를 위한 콘텐츠 관리 도구
- 온라인 판매자를 위한 재고 관리 시스템
- 프리랜서를 위한 청구 및 인보이싱 도구
각각의 이러한 서비스는 그 자체로 거대한 비즈니스가 될 수 있습니다. 이것이 B2B SaaS의 황금기 입니다.
3차 효과: 분산화된 조직 구조
기업들은 이제 큰 엔지니어링 팀을 내부에서 유지할 필요가 없어집니다. 대신:
- 핵심 사업에만 집중
- 나머지는 외부 전문 기업에 아웃소싱
- 결과적으로 기업 규모는 작지만, 영향력은 거대
4차 효과: 배포(Distribution)의 중요성 극대화
모든 것이 더 쉬워졌기 때문에, 누가 더 쉽게 고객에게 도달할 수 있는가 가 결정적인 요소가 됩니다:
- 기존 청중과 플랫폼을 보유한 사람들의 가치 극상승
- 콘텐츠 크리에이터, 저널리스트, 인플루언서들이 갑자기 기술 회사를 런칭할 수 있게 됨
- 입지를 활용하는 것이 비즈니스 성공의 가장 큰 요인
이러한 파급 효과들을 이해하는 것이 이 시대를 올바르게 네비게이션하는 핵심입니다.
소프트웨어 엔지니어링 vs. 비즈니스 프로세스: 다른 AI 기회
흥미로운 관찰: AI가 가장 주목받는 것은 소프트웨어 엔지니어링 이지만, 실제 기회는 비즈니스 프로세스 자동화 에 훨씬 더 크게 존재합니다.
소프트웨어 엔지니어링의 특징:
- 개방형 지식 작업(Open-ended Knowledge Work)
- 일반적으로 반복되지 않음
- 매번 새로운 기능, 새로운 솔루션
- 창의성과 혁신이 핵심
- Codex 같은 도구가 이 영역에서 매우 효과적
비즈니스 프로세스의 특징:
- 반복 가능하고 정해진 작업 흐름
- 표준 운영 절차(SOP)를 엄격히 따름
- 편차는 오히려 나쁜 것
- 대부분의 일반인 업무가 이 범주에 속함
- 예: 고객 지원, 청구, 데이터 입력, 승인 프로세스 등
여기에 숨어있는 거대한 기회:
실리콘 밸리 사람들은 소프트웨어 엔지니어링에 집중하지만, 세계 경제를 움직이는 대부분의 일은 비즈니스 프로세스 입니다. 셜윈 우는 다음과 같이 강조합니다:
"소프트웨어 엔지니어들이 관심을 가지는 영역과 실제로 경제 활동이 일어나는 영역 사이에는 거대한 간극이 있습니다."
비즈니스 프로세스에 AI를 적용하면:
- 결정론적이고 예측 가능한 결과
- 높은 수준의 자동화 가능성
- 비용 절감 효과 극대화
- 기업 데이터와의 깊은 통합
- 레거시 엔터프라이즈 시스템과의 연동
이 영역에는 신경 쓰는 기업이 적어서, 오히려 기회가 큽니다.
OpenAI의 API 전략: 에코시스템 중심의 플랫폼 운영
OpenAI는 단순히 AI 모델을 제공하는 회사가 아니라, 에코시스템을 육성하는 플랫폼 회사 로 자신들을 정의합니다.
플랫폼 우선 철학:
- 모든 모델의 API 공개: OpenAI의 모든 제품 모델이 결국 API로 사용 가능
- 중립적 플랫폼 유지: 경쟁 기업들도 자유롭게 API 사용 가능
- 기술 공개: 기술을 독점하기보다는 공유
구체적인 사례:
- Responses API: 장시간 실행되는 에이전트 구축을 위한 기본 인터페이스
- Agents SDK: 에이전트를 더 쉽게 구축하도록 도와주는 추상화 계층
- Agent Kit & Widgets: UI 컴포넌트로 아름다운 인터페이스를 빠르게 구축
- Evals API: 에이전트와 워크플로우를 정량적으로 테스트
이 전략의 이유:
"상승하는 조수(Rising Tide)는 모든 배를 들어올린다" - 에코시스템이 번영할수록, 결국 OpenAI 자신도 더 많은 이점을 얻습니다. 실제로 OpenAI의 API 사용량은 지속적으로 성장하고 있습니다.
ChatGPT의 규모:
주당 8억 명의 활성 사용자 - 세계 인구의 약 10%입니다. 이러한 규모는 OpenAI의 미션(AGI 개발과 이익을 모든 인류에게 확대)을 달성하기 위한 필수 요건입니다.
엔지니어링 매니저의 역할 변화: 수정적 리더십에서 권한 부여로
Codex가 코드를 작성하지만, 아직 "매니저를 위한 Codex"는 없습니다. 그렇다면 엔지니어링 매니저의 역할은 어떻게 변할까요?
현재의 변화:
- 최고 성과자의 권한 극대화: Codex는 진정으로 적응하고 학습하는 최고 성과자들의 생산성을 극대화합니다
- 지식 공유의 중요성: 이러한 사람들이 모범 사례를 공유할 때, 전체 팀이 상승
관리자 철학: 《신화적 인월(Mythical Man-Month)》의 수술가 비유
매니저의 역할은 다음과 같이 바뀝니다:
과거: 모든 팀원을 균등하게 관리
현재/미래:
- 상위 10-15% 성과자(예: 수술가)에게 50% 이상의 시간 투자
- 나머지 팀원들은 그들을 지원하는 역할
- 수술가가 메스를 요청하면 즉시 제공될 준비
- 모든 조직적, 프로세스적 장애물을 사전에 제거
실제 실행:
- Notion 문서와 Slack 메시지들을 검토하여 현재의 병목 지점 파악
- 문제가 될 가능성이 있는 장애물을 미리 예측하고 해결
- 팀원들이 집중할 수 있는 환경 조성
미래의 가능성:
셜윈 우는 흥미로운 아이디어를 제시했습니다: "회사 지식 기반에 연결된 ChatGPT에게 '우리 팀의 현재 병목 지점이 무엇인가?'를 물어본다면?" 이것이 매니저의 역할 변화를 가속화할 수 있습니다.
다음 12-24개월: 기술과 엔지니어링의 황금기
셜윈 우의 최종 메시지는 놀라울 정도로 낙관적이면서도 현실적입니다:
"지난 3년이 가장 흥미로운 시기였다면, 다음 2-3년은 그 이상이 될 것입니다."
그가 2014년 직장 생활을 시작했을 때는 기술 산업이 활기차 있었지만, 그 이후 5-6년은 다소 정체되어 있었습니다. 하지만 지난 3년간 특히 AI의 등장으로, 산업은 전혀 새로운 수준의 흥미로움과 에너지를 가지게 되었습니다.
지금 놓치면 안 되는 이유:
- 새로운 직업 창출: 완전히 새로운 유형의 일들이 탄생 중
- 기술 자체의 변화: 수십 년에 한 번 수준의 기술 혁신
- 세계 변화: 일하는 방식, 기업 구조, 경제 시스템 자체가 재정의 중
- 개인의 영향력 극대화: 한 사람이 이전에는 불가능했던 수준의 영향을 미칠 수 있음
실제 행동 방안:
엔지니어가 아니어도 괜찮습니다. 중요한 것은:
- 도구 사용해보기: ChatGPT, Cursor, Codex 같은 도구를 직접 경험
- 한두 가지 집중: 모든 것을 알 필요는 없고, 한두 가지 도구에 깊이 있게
- 한계 인식: 현재 AI의 한계를 이해하면, 미래에 무엇이 가능할지 예측할 수 있음
- 관심사 유지: 과도한 뉴스 추격보다는, 지속적인 관심과 학습 태도
최종적으로, 지금은 기술과 비즈니스의 역사에서 매우 특별한 시기 입니다. 이 시기를 놓치지 않으려면, 단순히 지켜보기보다는 주도적으로 참여하고 실험하는 것 이 핵심입니다.
결론
OpenAI의 플랫폼 엔지니어링 책임자 셜윈 우가 제시한 통찰들은 AI 시대에 대한 명확한 로드맵을 제공합니다. 엔지니어의 역할은 코드 작성자에서 AI 마법사로 진화하고 있으며, 이것이 가져올 파급 효과는 우리가 상상하는 것보다 훨씬 광범위합니다.
가장 중요한 메시지는 명확합니다: 행동하세요. 도구를 사용해보고, 실험하고, 배우세요. 이 시대는 곧 지나갈 것이고, 그때가 되면 "차라리 그때 시작했으면" 하는 생각을 하게 될 것입니다. 지금이 바로 ** 기술과 비즈니스의 황금기**입니다.
Original source: OpenAI’s head of platform engineering on the next 12-24 months of AI | Sherwin Wu
powered by osmu.app