#define AI Engineer - Greg Brockman, OpenAI (ft. Jensen Huang, NVIDIA)

영상 링크: #define AI Engineer - Greg Brockman, OpenAI (ft. Jensen Huang, NVIDIA)
채널명: AI Engineer

AI 엔지니어란 무엇인가 - 그렉 브록만, 오픈AI (ft. 젠슨 황, NVIDIA) 핵심 요약

• 이 영상은 오픈AI 공동설립자 겸 회장 그렉 브록만(Greg Brockman)이 인터뷰에서 자신의 성장 과정, 초기 커리어, 스트라이프(Stripe) CTO 경험, 독학 방법, AI에 대한 가치관, 오픈AI의 기술/조직 문화, 최근 AI 산업의 변화와 확장 과정을 상세히 소개함
• 그렉 브록만은 수학과 화학을 좋아하던 학생에서, 독학으로 코딩을 익히고 스트라이프에 조인하여 3명→250명 규모까지 CTO로 성장한 이력을 설명함
• 스트라이프에서 겪었던 ‘비효율적 관행의 타파’, ‘본질에서 출발하는 빠른 문제 해결 문화’의 구체적 사례(24시간 내 웰스파고와 시스템 통합 등)를 공유
• 독학과 자기주도 학습의 중요성을 강조하며, 중학교 시절부터 선행학습과 온라인 코스를 병행, 기초가 쌓이면 기하급수적으로 학습효과가 커진 경험을 언급
• 2013~2015년 독학으로 기계학습(ML)을 파고들며 GPU 컴퓨팅을 경험, 토링(Alan Turing)의 논문과 2012년 AlexNet의 충격에 매료되어 딥러닝의 미래를 확신
• 오픈AI 설립 및 성장 과정에서 ‘연구와 엔지니어링의 동등한 파트너십’이 혁신의 핵심임을 강조, 실제 에피소드와 해결과정 공유
• 챗GPT, GPT-4, 이미지 생성기 등 오픈AI 신기술들이 5일 만에 100만~1억 명 유저를 끌어모은 사례, 이 과정에서 연구 리소스를 서비스에 투입한 의사결정 과정을 설명
• Vibe Coding·코덱스(Codex) 등 AI 코드 생성기술이 “엔지니어링 방식” 자체를 바꾸고, 기존 레거시 소프트웨어의 재구성과 대규모 시스템 적용을 실험 중임을 전함
• 대규모 컴퓨팅 인프라 확장(멀티 GPU, 용량/지연 최적화 문제 등)과 AGI 시대 AI 네이티브 엔지니어의 미래 업무방식에 대한 젠슨 황(NVIDIA CEO)의 화두와 그렉의 답변 포함
• 앞으로 AI가 도입되는 분야와 경제구조 다변화, 도메인 특화 에이전트와 협업하는 엔지니어의 새로운 역할, AI와 인간의 협업 극대화 전망으로 마무리

세부 요약 - 주제별 정리

브록만은 수학/화학/코딩 독학 경험을 통해 ‘문제를 만드는 사람’에서 ‘코드로 세상에 기여하는 사람’이 되기로 결심함

• 학창시절 수학자에 매료되어 “오랜 시간 뒤에 쓰이는 지적 산물”에 관심을 가졌으나, 직접 코딩으로 ‘즉각 현실화’되는 창작의 짜릿함을 경험
• 친구의 조언으로 지나간 화학 교재 원고를 웹사이트에 직접 게시하려다 PHP, W3 Schools 튜토리얼 등으로 처음 프로그래밍을 독학
• 첫 프로젝트(테이블 소팅 위젯)가 성공적으로 동작하는 순간, “머릿속 상상이 현실이 되는 마법”에 흥미를 느낌
• 수학은 ‘증명’이지만, 코딩은 프로그램을 모르는 이들도 그 산출물을 사용할 수 있다는 점에서 ‘공헌의 폭’이 다름을 인식

하버드·MIT 재학 중 스트라이프에서 CTO로 성장하고, 혁신적 문제 해결법과 ‘고객 집착’ 문화를 경험함

• MIT와 하버드 모두에 재학·자퇴(양쪽 연결고리) 후 스트라이프의 초기 3인 조직에 조인, CTO를 맡음
• 스트라이프 초기에는 고객들과 지속적으로 연락(Ghat에 전원 추가), ‘고객의 문제’를 끝까지 따라가는 문화가 큼
• 웰스파고 결제 백엔드와의 기술 통합에서, “9개월 걸린다”는 대기업 관행을 거부하고 24시간 만에 문제 해결
  • 역할 분담(코딩/테스트/문서)으로 밤샘 협업, 외부 인증자와 실시간 코드 수정, 일반적인 개발 주기(6주) 대비 극한 효율 실현
• 이런 ‘기존 규칙/관성’에 얽매이지 않고, 본질에 맞는 접근이 성장의 핵심임을 강조
• 스트라이프의 ‘콜 인스톨’ 등 미디어에 과장된 소문과 실제(초기에는 제한적 시행)에 대한 오해도 정정

독학·자기주도 학습이 성장의 결정적 동력이며, “흥미+몰입+반복”이 기하급수 학습 곡선을 만든다고 설명함

• 6학년 때 아버지에게 대수학, 중학교에서 선행/월반을 요구하며 교사를 설득
• 1년에 3년치 고등학교 수학 선행, 자동차가 없던 시기에는 온라인 강의 병행
• 이후 고교·대학(UND)에서 자유롭게 고급 과목 이수
• “흥미와 목표가 있으면 남의 속도에 휘둘리지 않고 본인이 원하는 만큼 나아갈 수 있다”고 조언
• 독학은 단기간의 재미뿐 아니라 반복적 허들을 넘을 때 얻는 보상이 크다는 점을 강조

기계학습 독학, 토링 논문과 딥러닝 혁명(2012~)을 계기로 AI·딥러닝이 인간 능력의 확장을 이끈다고 확신함

• 스트라이프 재직 시절, 2013~2014년 딥러닝 커뮤니티·핵커뉴스(Hacker News)를 관찰하며 연구에 뛰어듦
• GPU 직접 조립(Titan X 카드 등)·Kaggle 대회 참가·기계조립의 실제 경험
• 앨런 토링의 1950년 논문 ‘Computing Machinery and Intelligence’(튜링테스트), 어린이처럼 학습하는 기계 개념에 매료
• 실제 NLP 연구 참여 당시, 규칙 기반 시스템의 한계를 체감
• 2012년 AlexNet 충격(이미지넷 컴피티션, CNN이 40년 연구 성과 압도)을 목격, 이후 NLP, 번역 등으로 파급되는 현상 직접 목격
• 1943년 McCulloch–Pitts 논문 등, 뉴럴넷의 긴 역사와 반복되는 ‘아이디어 vs. 컴퓨팅 스케일’ 논쟁에도 주목
• 기술의 본질은 ‘기계가 인간의 이해 바깥의 문제도 풀어내는 능력’이라 규정

오픈AI의 ‘연구와 엔지니어링은 동등한 파트너’ 철학은 실제 조직운영에서 크고 작은 갈등과 해법을 만들었음

• 초기 오픈AI는 연구자 중심→점차 대규모 시스템을 운영하는 엔지니어링이 동등하게 중요해짐
• 예: AlexNet조차 빠른 커널 구현 등 엔지니어링의 힘이 결합해야 혁신 가능
• 실질적 문제(인터페이스 정의, 코드 소유권, 버그/성능 관리 등)로 연구/엔지니어 간 마찰 경험
• “엔지니어에게 필요한 것은 기술적 겸손(humility).” 기존 방식이 맞지 않을 수도 있으므로, 경청과 맥락이해가 선행되어야 변화가 가능하다고 조언
• 오픈AI 문화: 모든 문제를 ‘기술과 소통’으로 풀기, 이 과정을 지속적으로 개선

챗GPT·GPT-4·이미지 생성기 론칭은 전례 없는 대규모 트래픽을 만들어 AI 대중화 전환점이 됨

• 챗GPT: 연구 프리뷰로 출시했으나, 5일 만에 100만 명 돌파, GPT-4 기반의 이미지 생성기는 5일 만에 1억 명 사용
• 초기에는 내부 만족도가 낮았으나, 외부 반응이 폭발적으로 이루어짐
• 두 서비스 모두 연구를 위한 연산 자원을 실제 서비스에 우선 제공하는 결정을 내려야 했음(‘미래를 저당잡아’)
• “사용자가 마법을 직접 경험하게 해줄 기회는 모든 것을 걸 만한 가치가 있다”는 결정적 순간으로 회상

Vibe Coding, 코덱스 등 AI 코드 자동화는 소프트웨어 개발 방식과 경계를 근본적으로 바꾼다

• Vibe coding(코드 생성 AI와의 실시간 상호작용 코딩)은 한층 직관적인 소프트웨어 생산을 상징
• 앞으로는 단순 앱 생성(플래시한 데모)에서 업계·기업 실전 레거시 소프트웨어 마이그레이션, 구조개선 등 실질적 난제들을 풀게 됨을 예고
• Codex는 작은, 잘 테스트된 모듈을 만들고, 테스트 자동화를 극대화하는 구조가 AI와 협업에 적합함을 시사
• “실제 내부 PR의 두 자릿수 %가 코덱스 작성”, 외부 GitHub에서는 일일 24,000개 PR이 AI로 생성 후 머지됨
• 미래에는 ‘주니어 개발자 수준’의 코드 베이스 구조가 모델 효율 극대화에도 적합하며, 모델 발전에 따라 개발 방식도 변화할 것이라 바라봄

대규모 AI 인프라 확장·다양한 워크로드 문제는 오픈AI와 Nvidia가 함께 고민하는 ‘슈퍼컴퓨터 시대’의 과제임

• 젠슨 황(NVIDIA CEO)은 ‘장기 추론형 에이전트’와 ‘실시간 반응 AI’ 등 워크로드 이질성, 미래 인프라 설계의 딜레마를 질문
• 브록만은 병렬적·비동기적 워크로드 대응엔 “전용 가속기(컴퓨팅/저지연), 자원 배분의 유연성, 혼합형 설계”가 고려되어야 한다고 답변
• 현재는 하드웨어 한정성이 높으나, ‘모든 자원이 최적으로 쓰이지 않을 때도 소프트웨어적 대응 가능(예: mixture of experts)’
• 전체적으로, 연구의 변화 속도가 워크로드·인프라 예측의 모든 것을 압도하고 있음을 강조

AI‧AGI 시대의 기술/경제적 병목 및 앞으로의 R&D 리스크, 개선 포인트를 정리함

• GPT-6 시대 최대 병목: 연산능력, 데이터, 알고리즘, 전력, 자본(모두 중요하나, 시점별로 R&D가 ‘알고리즘’으로 중심 이동)
• RL(강화학습) 패러다임 전환은 GPT-4에도 결정적, “책만 읽는 AI가 아니라, 세계의 상호작용을 직접 경험하도록 학습 설계”를 강조
• AGI의 기준은 “아직 멀었으나, 현 시스템의 부족점을 집요하게 밀어붙여 해결해야 한다”는 태도

도메인 특화 AI/에이전트의 등장은 ‘AI 네이티브’ 엔지니어의 업무방식과 경제 생태계를 급격히 바꿀 전망임

• 젠슨 황은 “앞으로 AGI를 기반으로 다양한 도메인 에이전트가 구축될 텐데, 개발·파이프라인·협업 플로우는 어떻게 달라질까?”라는 질문 제기
• 브록만은 “단일 AI보단 각 도메인별 조합형 모델, 모델 간 상호 운용, 지식 증류·전이/다양한 추론비용 분기 등, 더 복잡한 생태계”로 진화한다고 예측
• 의료, 교육 등 책임성과 이해관계자가 중첩된 영역에서는 AI의 진입·확장 방식이 기존 산업과 완전히 다름
• 앞으로 AI로 인한 경제활동의 전체적인 ‘총량 확대(10배 이상 생산성/성장)’ 및 진입장벽 극복에 초점이 맞춰질 것이라 전망
• 엔지니어는 “AI와의 협업, 도메인별 맞춤 에이전트 개발, 인간적 감수성과 책임을 결합하는 새로운 역할”이 핵심이 될 것임

결론은 “계속해서 직접 만들고(Just Build), 경직된 관행 대신 혁신적 문제 정의와 해결을 반복해야 한다”는 메시지로 요약됨

• 영상 내내 반복되는 키워드는 ‘Build(직접 만들기)’, ‘기존 규범에 얽매이지 않기’, ‘지속적 학습/성장’, ‘조직 간 신뢰와 겸손’
• AI가 “인간의 생산성 한계 돌파 및 사회 전체의 총량적 혁신”을 불러올 것이며, 이를 주도하는 AI 엔지니어의 역할 변화가 예고됨