How agents will unlock the $500B promise of AI - Donald Hruska, Retool

영상 링크: How agents will unlock the $500B promise of AI - Donald Hruska, Retool
채널명: AI Engineer

AI의 5,000억 달러 약속을 실현할 에이전트의 역할 핵심 요약

• 발표자 도널드는 Retool의 신제품 팀 리드를 맡고 있으며, 최근 “Retool Agents”를 출시하여 에이전틱 AI 시장에 본격 진입했음을 알림
• 현재 AI 인프라에 5,000억 달러가 투자되었지만, 대다수 대기업들은 여전히 간단한 챗봇과 코드 생성 수준에 머물러 있음
• 2023년 말부터 2024년 5월까지 Anthropic의 연간 매출은 10억 달러에서 30억 달러로 5개월 만에 3배 성장, OpenAI도 2025년 120억 달러 매출 전망
• AI 매출 급성장은 기업용 AI 수요가 뒷받침하며, 대표적으로 Cursor와 Windsurf 등의 코드 생성 도구가 엔지니어들에게 널리 채택되고 있음
• OpenRouter 등 AI 모델 API의 주요 활용처 역시 코드 생성 사례가 주류를 이루며, LLM(대형 언어 모델)들은 실제 코딩 역량을 빠르게 개선 중임
• “Vibe coding”(바이브 코딩) 트렌드가 부상, 사용자는 간단히 명령만 주면 에이전트가 코드를 작성해주며 이는 기존 자동완성이나 복사-붙여넣기와 대비되는 진정한 에이전틱 AI의 예시임
• 실제 에이전트 개발은 기술적으로 비교적 수월하지만, 엔터프라이즈 환경에 생산 단계로 올리기는 보안, 통합, 감시, 컴플라이언스 등 복합 요건 탓에 매우 어려움
• 조직 내 AI 및 에이전트 도입 시 직접 개발(빌드)과 외부 플랫폼 활용(구매) 옵션을 장단점, 관리, 비용, 목적별로 신중히 따져야 함
• Stripe, Cursor, AWS, ClickUp 등 다양한 사례에서 코어 로직은 직접 개발, 주변(보조) 업무는 Retool Agents 등 플랫폼을 활용하는 하이브리드 전략이 효과적임을 강조
• AI 인퍼런스(추론) 단가가 2022년 대비 2024년 99.7% 하락하는 등 비용-생산성 구조가 급변하며, Google 검색에서 ‘AI 에이전트’ 검색량도 16개월간 11배 증가
• 궁극적으로 기업은 모든 영역을 자동화하는 황금열쇠 대신, 엔지니어의 지렛대(레버리지)를 극대화할 지점과 올바른 도구 선별이 가장 중요한 의사결정임을 역설

세부 요약 - 주제별 정리

Retool의 에이전트 출시와 기업 대상 AI 도입의 현황이 올해 본격적으로 변화함을 선언

• 도널드(발표자)는 Retool에서 신제품 개발을 총괄하며, 최근 “Retool Agents”라는 에이전트 기능을 공식적으로 출시했다고 설명
• Retool은 내부 업무 툴 구축을 빠르고 쉽게 지원하는 도구로 성장, 최근 2년간 AI 공급자 연동 기능을 확장해옴
• 수천억 달러가 투자된 현 시점에도 대기업들은 여전히 ‘장난감 챗봇’ 혹은 코드 자동 생성 정도에 그치고 있음
• 2024년은 드디어 생산 시스템에 안전 가드레일이 내장된 에이전트가 대기업에서 실제로 쓰이기 시작하는 첫 해로 전망
• 이를 위한 Retool Agents는 이미 고객에게 공개되어 엔터프라이즈 환경에 필요한 기능을 탑재

기업 고객의 AI 투자가 폭증하며 Anthropic과 OpenAI의 수익 구조가 급격히 성장함

• 2024년 5월 말 기준, Anthropic의 연환산 매출이 30억 달러에 달함(3월 20억 달러→5월 30억 달러, 12월 10억 달러 대비 5개월 3배 성장)
• OpenAI 역시 2025년 말 120억 달러 매출 예상, 2024년 대비 3배 빠른 성장세 유지
• 해당 성장의 주요 동력은 B2B/기업 고객의 AI 활용·외주·플랫폼 사용이 대거 늘어난 데 있음
• Cursor, Windsurf 등 AI 기반 코드 생성 도구는 엔지니어 대다수가 현업에서 필수적으로 사용, 팀 내 생산성 대폭 향상
• 엔지니어는 프롬프트 작성, 코드 리뷰, 반복 작업을 LLM에 위임하며, 업무 방식이 과거와 완전히 달라짐
• OpenRouter의 Top Apps 리스트 역시 코딩 지원/생성 사례가 다수 차지

LLM의 실제 코딩 성능이 빠르게 고도화되어 현장 프로그래머들 workflows를 혁신적으로 변화시킴

• SWEBench(코딩 실전 과제 벤치마크) 기준 GPT-4.1은 GPT-4.0 대비 21%p 성능 향상
• Gemini 2.5 Pro도 GPT-4.1 대비 9%p 추가 상향, 실제 엔지니어들 사이에서 격찬을 받고 있음
• 많은 개발자가 Cursor에서 Gemini 2.5 Pro를 선택적·자율적으로 사용하며 품질 개선 체감을 보고
• “Vibe coding”이란 용어가 소프트웨어 개발계 유행이 되었음(앤드리슨 호로위츠 팟캐스트에서 릭 루빈이 “바이브 코딩은 소프트웨어계의 펑크록”이라 언급)
• 바이브 코딩은 사용자가 의도만 설명하면 에이전트가 자동으로 생각, 플래닝, 실행을 반복하여 완성된 코드를 작성함
• 단순한 GPT 복붙/자동완성과 달리, 진정한 “에이전틱 AI”의 사례로 간주할 수 있음

코드 생성뿐 아니라 모든 비즈니스 문제로 에이전트 적용 영역을 확장하려면 일반목적 에이전트 개발이 필수적임

• 코드 생성은 문법·테스트가 명확해 적용이 쉬움, 하지만 다양한 기업 문제로 확장하려면 범용 에이전트가 필요
• 에이전트란 LLM을 감싸 반복 실행이 가능한 루프(logic)과 툴(외부 기능, API 등)을 조합한 구조
• REACT(Reason, Act) 프레임워크 기반으로, 에이전트가 직접 읽고, 판단, 툴 호출, 자기 검증(최종 답인지)을 반복
• 도널드는 기본 구조 예시로 간단한 자바스크립트 100줄 내외로 계산기 툴을 내장한 에이전트를 소개
• 루프 횟수 제한 등 안전장치를 두어 무한 반복 및 비용 폭증 위험 관리
• 에이전트 개발 그 자체는 간단하지만, 실제 엔터프라이즈에는 더 많은 과제가 내재

생산 환경의 에이전트 론칭은 인증, 보안, 컴플라이언스 등 엔터프라이즈 요건이 매우 까다로움을 지적

• 바이브 코딩으로 빠르게 만든 웹앱이 실제 배포(프로덕션)로 가는 것과 마찬가지로, 에이전트도 생산 환경 진입은 어렵다
• SSO(싱글사인온), RBAC(역할기반 접근제어), 외부 시스템 연동 보안, 감사로그, 컴플라이언스(SOC2), 시크릿관리(AWS Secrets Manager), 다국어 지원 등 대기업 수준 요건 다양
• 바이브 코딩 코드가 제대로 검증 없이 프로덕션에 들어가 보안 취약점 및 실제 사고로 이어진 사례 정보도 언급됨
• Retool도 직접 경험한 바, 모델 환각(hallucination), 예측불가/부정확 결과, 보안 사고, 비용 폭주 등 리스크 관리에 많은 노하우 축적
• 에이전트 행동을 누구나 재현 가능하도록 ‘Eval’(평가)로 비교적 결정론적(deterministic)으로 만드는 것이 매우 중요

에이전트 도입 전략은 직접 개발(빌드)과 플랫폼 구매(바이) 4가지 옵션으로 나누어 의사결정해야 함

• ① 자체 개발: 모든 코드를 직접 작성, 맞춤화/통제력 극대, ML 엔지니어 팀 필요, 간접비(보조 인프라) 부담 큼
• ② 프레임워크 활용(LangGraph 등): 메모리 등 세부 설정 가능, 중간 개발 난이도, 특정 프레임워크에 종속
• ③ 플랫폼 활용(Retool Agents 등): 기본값/연동성/관찰성 내장, 배포 난이도 매우 낮음, 장기적으로 플랫폼 종속성
• ④ 단일 목적 수직화 에이전트: 특정 워크플로우만 극대, 확장성/범용성 극도로 적음
• 코어 비즈니스(예: Stripe의 결제, Cursor의 핵심 서비스)는 직접 빌드, 일반적·보조 업무(예: 결제 분쟁 대량 처리, 내부지원)는 플랫폼 구독이 비용-생산성 측면에서 유리
• 서비스 성격, 민감 데이터 존재, SLA 중요도에 따라 옵션별 위험도·비용·기능 관점에서 별도 의사결정 필요
• 플랫폼 도입 땐 외부 서비스 커넥터, 권한 관리, 컴플라이언스, 감사, 감시, 이메일 연동 등이 내장되는지 체크 필수

Retool은 Stripe 및 Cursor 등 실전 기업 사례를 들어 하이브리드 전략(핵심 & 주변 업무 분리)의 유효성을 강조

• Stripe는 결제 등 핵심 업무는 직접 개발, 내부 툴은 Retool 등 외부 플랫폼에 적극 의존
• Cursor 역시 자사 핵심 제품은 절대 외부 플랫폼을 쓰지 않으며, 커스텀 빌드와 최고의 엔지니어 투입이 필수
• 단, 회사 규모가 커질수록 대량의 반복 사무(결제 분쟁 대응 등)는 향후 Retool Agents와 같은 플랫폼 활용을 검토할 가능성 큼
• Retool은 AWS 등 대형 고객사와 협업, 업무자동화 및 비즈니스 프로세스 자동화를 실현
• ClickUp은 Retool 기반 AI 툴링을 통해 벤더 비용 20만 달러 이상 및 수십만 달러 상당의 인력 비용 절감
• Dscript도 Retool로 50개 앱 개발, 주당 수백 시간 업무 절약
• Retool 전체 고객 기준 1억 시간 이상의 업무 자동화 실적 기록

AI와 에이전트가 인류 역량을 해방하고 기업의 촉진제 역할을 하며 글로벌 생산성(세계 GDP)을 높이고 있음

• 인쇄기가 정보 민주화의 계기가 되었던 것처럼, AI와 에이전트도 업무 자동화·업무 촉진을 통해 인간의 창의적/전략적 역량을 해방
• AI 및 에이전트 도입을 통해 반복적/단순 작업에서 해방, 더 고부가가치 영역(기획, 창의성)에 집중 가능

AI 인프라 투자와 운영 비용 구조가 혁신적으로 개선되며, 검색/관심도에서도 “AI 에이전트”가 주류 흐름으로 부상함

• 2022~2024년 GPT 등 대형 모델 추론 비용은 99.7% 감소(토큰당 비용 하락)
• Anthropics 연매출 3배, OpenAI 2025년 120억 달러 등 AI 서비스 매출은 급증
• Retool의 저가형 에이전트도 시간당 3달러 책정, 시간이 갈수록 지속 하락 전망
• 메리 미커의 2024년 AI 트렌드 리포트에 따르면, ‘AI 에이전트’ 구글 검색량은 16개월간 11배 성장
• 앞으로도 “에이전트”라는 단어를 점점 더 많이 듣게 될 것이라고 예언

엔지니어 생산성과 도구 선택이 AI 에이전트 시대의 조직 경쟁력 핵심임을 재차 강조하며 마무리

• 기업 내 모든 문제에 단일 만능 자동화 방책은 없으며, 각 기능·업무별로 가장 레버리지를 극대화할 지점과 알맞은 도구 선정이 중요
• 의사결정의 본질은 빌드/바이(개발/구매) 트레이드오프와 엔지니어 시간의 최적 활용에 두어야 함

질의응답에서 Retool의 내부 구축/플랫폼 활용 전략과 온프레미스 지원 정책을 구체적으로 설명

• Retool도 사내 대부분 소프트웨어를 자사 플랫폼으로 직접 개발/운영하며 한계점이 있으면 커스텀 개발로 전환하는 유연한 전략 채택
• Retool Agents는 초기엔 클라우드 기반으로 런칭되었으나, 곧 온프레미스(사내 서버) 및 에어갭 환경까지 지원 확대 예정임을 안내
• NGO, 공공·정부 고객 등 온프레미스/에어갭 요구에 맞춘 지원 일정도 언급

결론 및 전체 흐름 정리에 대한 재강조

• AI 에이전트의 등장은 곧바로 세계 생산성 증폭, 인공지능을 사업 현장 프로덕션 수준으로 도입하는 추세 가속
• 코어 업무는 빌드, 일반/보조는 플랫폼 바이, 그리고 적재적소의 도구 선택이 장기 경쟁력임을 반복 강조
• Retool Agents와 같은 플랫폼은 “AI의 5,000억 달러(한화 650조 원) 약속”의 실현을 위한 핵심 인프라로 자리매김하고 있음을 시사