📌 에이전트 AI가 늘리는 일은 서버 안일까, 서버 사이일까?
며칠 전 CPU가 오를 때 질문을 하나 남겨두고 답을 안 적었다.
에이전트가 늘어나면 일이 서버 안에서 끝나나, 서버 사이로 넘어가나. 이 비중이 어디냐에 따라 돈이 붙는 층이 달라진다.
일이 서버 안에서 커지면 CPU와 메모리가 먼저다. 한 상자 안에서 추론하고, 결과를 그 안에서 다시 쓰는 그림이다. 이때는 칩이 바빠져도 상자 밖으로 나가는 데이터가 꼭 같이 늘진 않는다.
일이 서버 사이로 커지면 광과 DSP가 먼저다. 모델이 나뉘고, 메모리와 가속기가 상자를 건너고, 결과가 다시 다른 랙으로 간다. 이때는 연산량보다 연결량이 문제가 된다.
지금은 둘 다 열린다. 그래서 CPU가 오른다고 마벨이 자동으로 버는 구조는 아니라고 본다. 중간에 확인할 칸이 있다. 서버가 늘었는지, 그 서버 사이로 데이터가 늘었는지, 고객이 더 빠른 네트워크에 돈을 쓰는지, 그 설계에 마벨이 들어갔는지.
그래도
$MRVL을 코어로 두는 이유는 단순하다.
에이전트가 하나만 똑똑해지는 게 아니라, 여러 상자가 같이 일하게 만들수록 사이 트래픽이 구조적으로 늘어선다고 보기 때문이다. 한 서버의 성능 싸움이 아니라, 서버를 묶는 싸움으로 가는 구간에 더 가깝다.
빅테크가 연산 투자는 유지하면서 네트워크 capex를 먼저 줄일 때다. 그때는 일이 상자 안에서 끝나고 있다는 뜻에 더 가깝다.
지금은 그 신호를 기다린다. CPU 강세를 마벨 매수 이유로 바로 연결하진 않는다.