Back to list

AI Business36氪

When World Models Achieve Real-Time Inference, What Startup Opportunities Emerge for AI Applications?

36氪2 min read
Read original
When World Models Achieve Real-Time Inference, What Startup Opportunities Emerge for AI Applications?

AI Summary

The advance of video and world models is turning AI from prompt-driven tools into real-time interactive experiences that users can step into. Yet few platforms can run multimodal models in real time in production. Startup Reactor is building this infrastructure layer, supporting over 60 FPS and under 40 ms latency, and has raised $74 million in total funding.

AI Insights

The shift from prompt-driven batch generation to real-time interactive world models creates a new infrastructure layer where inference cost scales with user engagement time rather than request count. Companies like Reactor that solve low-latency, persistent-state multimodal inference stand to benefit from growth across media, digital humans, robotics and simulation, though competition from hyperscalers and model providers vertically integrating will be intense.

Analysis written by AI from the original article. Check it against the source.

Translated text

최근 2년간 영상 모델과 세계 모델이 활발히 발전하며 우수한 창업 기업들이 대거 등장했고, 모델 자체의 진화도 매우 빠르다. 바이트댄스의 Seedance는 AI 분야에서 주요 수익원이 되었다. 디지털 휴먼 라이브 방송이나 시뮬레이션 분야의 세계 모델 응용은 단순한 콘텐츠 생성이 아니라 사용자 및 '환경'과의 상호작용을 요구한다. 이에 따라 AI는 프롬프트로 구동되는 도구에서 사용자가 몰입해 실시간으로 상호작용하는 경험으로 근본적으로 바뀌고 있다. 실시간성은 AI 모델과 응용이 인프라에 제기하는 새로운 요구가 되었지만, 시장에는 생산 환경에서 멀티모달 모델을 실시간으로 실행할 수 있는 플랫폼이 부족하다. Reactor는 이 인프라 계층을 구축하려 하며, 개발자가 SDK와 API로 몇 줄의 코드만으로 실시간 상호작용 애플리케이션을 만들 수 있도록 하고, 60FPS 이상, 40밀리초 미만 지연의 실시간 모델 실행을 지원한다. 이는 미디어 엔터테인먼트, 피지컬 AI, 로봇 분야에서 차세대 상호작용형 AI 애플리케이션을 낳을 수 있다. Reactor는 Lightspeed Venture Partners가 주도하고 WndrCo, Amplify Partners, Sky9 Capital, FPV Ventures 등이 참여한 5900만 달러 규모의 시드 및 A라운드 투자를 받았고, 최근 NVIDIA와 Sapphire Ventures로부터 A라운드 추가 투자를 받아 총 7400만 달러를 조달했다. 세계/영상 모델의 실시간 상호작용 전환은 인프라에 새로운 요구를 낳는다. Google DeepMind의 Genie 3는 24FPS로 720p 상호작용 세계를 생성하고, StreamDiT는 H100 한 장에서 16FPS 텍스트-영상 생성을 구현했으며, 알리바바, 텐센트, NVIDIA도 상호작용형 영상 또는 세계 모델을 발표했다. 상호작용형 세계 모델은 물리 엔진을 학습한 것과 같아서 불이 번지고 물이 튀며 금속이 찌그러지는 물리 법칙을 내재화한다. 사용자는 환경 안에서 조작하고 모델은 프레임 단위로 실시간 피드백을 준다. 기존 인프라는 배치(batch) 요청을 위해 설계되어 실시간 추론과 근본적으로 다르다. 실시간 추론에는 여러 번의 상호작용에 걸쳐 상태를 유지하고, 50밀리초 미만 지연의 양방향 스트리밍, 실시간 제어 입력 처리, 수천 프레임에 걸친 일관성 유지를 위한 세션 오케스트레이션이 필요하다. 연산 수요도 기하급수적으로 늘어난다. 프롬프트 방식은 생성 한 번에 실행 한 번이지만, 상호작용 세계 모델은 세션의 매 초마다 쉬지 않고 실행된다. 따라서 추론 수요는 요청 수가 아니라 사용자 체류 시간에 직접 비례하며, 사용자가 세계 모델에 머무는 1분마다 1분의 GPU 실시간 연산이 발생한다. Reactor의 창업팀은 Alberto Taiuti(CEO)와 Bryce Schmidtchen(CTO)으로, 둘 다 Apple Vision Pro의 기술 책임자였다. Taiuti는 3D 및 영상 생성 유니콘 Luma AI의 공동 창업자 겸 CTO로 기반 인프라를 구축했다. 팀에는 Apple, Netflix, Meta, Google, Adobe, Replicate, Microsoft 출신 엔지니어와 연구자들이 있다. Reactor의 플랫폼은 하부의 확장 가능한 글로벌 GPU 클라우드, 영상 및 세계 모델의 저지연 추론에 최적화된 자체 추론 엔진, 상위의 저지연 스트리밍 계층으로 구성된다. 이를 통해 개발자는 통합 SDK와 API로 60FPS 이상, 40밀리초 미만 지연에서 모델을 운용할 수 있다. Reactor는 AWS Neuron 팀과 협력해 실시간 자기회귀 확산 영상 모델을 AWS 자체 AI 칩 Trainium에 배포했으며, 단일 Trainium2 칩에서 실시간 영상 생성을 구현했다. Reactor 플랫폼에는 실시간 세계 모델, 동작 제어 가능 세계 생성 모델, 동기화 오디오를 갖춘 실시간 영상 모델 등이 모여 있으며, 그중 상당수는 중국의 오픈소스 모델이다. Reactor는 현재 미디어 및 엔터테인먼트 업계에서 쓰이고 있으며, 할리우드 주요 제작사, 광고 플랫폼, 영상 스트리밍 기업들이 플랫폼에서 활발한 프로젝트를 진행 중이다.

Related News

3