칩을 설계한 건 AI였다, OpenAI가 9개월 만에 엔비디아를 겨눈 사연

보통 반도체 하나를 처음부터 만드는 데는 짧아도 2~3년이 걸린다. 설계 검증, 시뮬레이션, 시제품 제작까지 사람 손으로 하나하나 거쳐야 할 단계가 산더미이기 때문이다. 그런데 OpenAI와 브로드컴이 함께 만든 첫 커스텀 칩 'Jalapeño'는 이 과정을 단 9개월 만에 끝냈다. 업계 표준 속도의 3~4배에 달하는 속도다. 비결은 다름 아닌 OpenAI 자신의 AI 모델이었다. 칩 설계 과정 곳곳에 자사 모델을 투입해 개발 속도를 끌어올렸다는 것이다. AI 회사가 자기 AI를 써서 자기 AI를 돌릴 칩을 더 빨리 만든 셈, 일종의 자기 증식 같은 구조다. 이 칩은 대규모 언어모델의 '추론(inference)', 즉 챗GPT 같은 서비스가 실시간으로 답을 뽑아내는 연산에만 특화된 초대형 ASIC이다. 메모리는 삼성전자의 최신 HBM4가 들어간 것으로 알려졌다. 지난 6월 24일 처음 세상에 공개된 이 칩은 두 달여의 실전 가동을 거쳐 8월 25일 첫 성과를 공식 블로그에 내놨다. 제목부터 도발적이다. "업계를 선도하는 속도와 효율을 보여준다"는 문장으로 시작해, 실제로 엔비디아를 비롯한 기존 GPU 기반 인프라보다 낫다고 못 박았다. 챗GPT 응답이 조금 더 빨라지고, 같은 전력으로 더 많은 요청을 처리하고, 서버 운영 비용은 줄어드는 그림을 그린 것이다. 여기서 끝이 아니다. OpenAI는 이 칩이 일회성 프로젝트가 아니라는 점을 분명히 했다. 성과 발표와 함께 '멀티세대 실리콘 로드맵'을 제시하며, Jalapeño는 시작일 뿐 앞으로 세대를 거듭한 후속 칩들이 이어질 것이라 예고했다. 이후 열린 Hot Chips 2026 컨퍼런스에서는 이 칩의 기술적 세부사항이 추가로 공개되며 업계의 관심이 재확인됐다. 지금까지 AI 모델 경쟁은 누가 더 똑똑한 모델을 만드느냐의 싸움이었다. 하지만 이 발표는 판을 한 겹 더 내려가게 만든다. 모델을 얼마나 빠르고 싸게 '돌릴 수 있느냐'의 싸움, 즉 하드웨어 전쟁이 본격적으로 시작됐다는 신호다. 구체적인 속도(ms)나 처리량(tokens/sec) 수치까지 궁금하다면 OpenAI 공식 블로그의 'Jalapeño's first results' 원문을 직접 열어보시길 권한다. 다음 세대 칩이 언제, 어떤 이름으로 나올지 지켜보는 것도 관전 포인트다.