속보: 인텔이 "AI 골드러시는 끝났다"고 선언하며, 모든 프롬프트를 감당 가능한 가장 저렴한 하드웨어로 보내는 전략을 내놨다.

인텔은 OCP(Open Compute Project) 글로벌 서밋에서 AI가 중앙화된 데이터센터의 초대형 모델을 떠나 다양한 하드웨어로 분산될 것이라고 밝혔다.

전략의 핵심은 프롬프트 라우팅(prompt routing)이다. 요청마다 가장 효율적인 모델과 하드웨어를 찾아 배분하는 소프트웨어다.

인텔은 여러 모델에 작업을 나누면 법률 분석부터 수학 추론까지 추론 비용을 최대 60% 줄일 수 있다는 Callism 벤치마크를 근거로 들었다.

Vercel 개발자 API 게이트웨이에서 오픈소스 모델로 라우팅된 토큰 비중은 7월 초 30%에서 9월 말 78%로 2.6배 커졌다.

인텔은 추론용 플랫폼 크레센트 아일랜드(Crescent Island)도 공개했다. 350W 공랭식 PCIe 카드여서 데이터센터를 개조하지 않고 기존 서버에 장착할 수 있다.

고밀도 수요에는 GPU 2개를 탑재한 수랭식 OCP 규격 카드 시제품으로 대응한다. 표준 5U 섀시 하나에 이 카드 8장이 들어간다.

에이전틱 AI용 제온 6 플러스(클리어워터 포레스트)는 효율 코어를 최대 288개 탑재하며, 2027년 출시될 다이아몬드 래피즈는 성능 코어를 최대 256개 갖춘다.

인텔은 랙 단위를 넘어서는 인터커넥트 병목을 해결하기 위해 비트당 5피코줄 미만을 목표로 한 실리콘 포토닉스 기술도 추진 중이다.

'AI 경쟁의 축이 규모에서 비용 효율로 이동하고 있다.'

@TNBfolio