더 빠른 AI, 속도만이 답일까

빨라지는 모델, 달라지는 경쟁

9월 7~13일 발표를 중심으로, 14일자 적용 안내까지 확인했습니다.

DeepSeek V4.1 Flash, 덜 계산하는 설계

DeepSeek이 9월 10일 V4.1 Flash를 공개했습니다. 이미지 이해를 기본 지원하며, 입력을 읽을 때와 출력을 만들 때 서로 다른 규모의 계산을 쓰는 Causal Encoder–Decoder 구조를 소개했습니다. 총 552B 파라미터의 MoE 모델이지만 활성 파라미터는 입력 8B, 출력 16B라는 설명입니다. ‘Flash’라는 이름을 노트북에서 가볍게 돌리는 작은 모델과 혼동해서는 안 됩니다.

이번 발표에서 눈여겨볼 것은 점수표보다 메모리입니다. DeepSeek은 이전 세대 대비 KV cache의 HBM 요구량을 4분의 1, SSD 저장 공간을 8분의 1로 줄였다고 밝혔습니다. 이는 회사가 발표한 캐시 자원 비교이며, 모든 업무의 비용이 같은 비율로 줄어든다는 뜻은 아닙니다. 긴 문맥을 여러 번 읽는 에이전트에서는 이런 자원 설계가 사용량과 운영 비용을 함께 바꿀 수 있습니다.

API를 쓰는 팀은 모델 이름도 확인해야 합니다. 공식 호출 이름은 deepseek-flash이며, DeepSeek은 9월 14일 오후 1시(한국시간)부터 기존 deepseek-v4-pro 요청도 V4.1 Flash로 연결한다고 안내했습니다. 이름을 그대로 두어도 실제 모델이 달라질 수 있다는 의미입니다. 교체 후 품질과 도구 호출 동작을 다시 확인할 이유가 여기에 있습니다.

아모데이, 더 강한 AI보다 검증할 시간을

Anthropic CEO 다리오 아모데이가 ‘We Must Pace the Frontier’에서 최첨단 AI 모델의 발전 속도를 조절하자고 제안했습니다. 요지는 AI 연구를 전면 중단하자는 것이 아닙니다. 모델의 능력을 높이는 만큼 안전장치를 갖추고, 외부 평가자가 그 과정을 확인할 시간을 확보하자는 주장입니다.

제안은 상주하는 독립 평가자, 민주주의 국가 내 업계 공조, 국제 공조의 세 단계입니다. Anthropic은 첫 단계에 독자적으로 참여하겠다고 밝혔습니다. 외부 평가자가 완성된 모델만 잠깐 시험하는 데 그치지 않고, 직원과 유사한 수준의 접근권으로 훈련 과정과 사고 대응을 지속적으로 살펴보도록 하겠다는 것입니다. 업계 전체의 감속이나 국제 합의가 이미 실행됐다는 발표는 아닙니다.

우리는 이 소식을 ‘안전을 강조했는가’보다 ‘누가 무엇을 확인할 수 있는가’의 문제로 읽습니다. 모델이 더 많은 일을 수행할수록, 성능 점수와 함께 독립적인 검증과 사고 공개도 제품을 판단하는 자료가 됩니다. 선언 다음에 평가자가 어떤 권한을 얻고 어떤 결과를 공개하는지 지켜볼 필요가 있습니다.

iPhone Duo, AI 옆에 원문을 펼쳐두다

Apple은 9월 9일 첫 폴더블 iPhone인 iPhone Duo를 공개했습니다. 바깥에는 5.4인치, 안에는 7.6인치 화면을 두고, 펼쳤을 때 두 앱을 나란히 사용하는 Split View를 제공합니다. Siri AI와 대화하면서 다른 쪽에 자료를 띄워두는 사용 방식도 소개했습니다. 기기는 한국을 포함한 1차 출시 지역에서 10월 16일 사전 주문, 23일 출시 예정입니다.

AI의 관점에서 흥미로운 부분은 화면을 넓힌 다음입니다. 답변과 원문을 동시에 볼 수 있다면 요약을 확인하려고 앱을 계속 오갈 필요가 줄어들 수 있습니다. 제품을 만드는 입장에서는 채팅창 하나보다 ‘자료를 읽고, 답을 비교하고, 수정하는 과정’을 어떻게 배치할지가 중요해집니다. 이는 공개된 기능에서 도출한 사용성 관점이며, 실제 기기에서 측정한 결과는 아닙니다.

한국어 제공 시점은 따로 봐야 합니다. Apple은 Siri AI를 9월 14일 영어 베타로 제공하고, 한국어는 10월 지원 예정이라고 안내했습니다. Apple Intelligence의 한국어 지원과 새로운 Siri AI의 한국어 제공 일정을 같은 것으로 읽지 않는 편이 정확합니다.

n-gram은 어떻게 다시 쓰이고 있을까

DeepSeek의 Engram에서 출발해, 비슷한 이름으로 불리는 서로 다른 최적화를 구분합니다.

익숙한 조합까지 매번 계산해야 할까

n-gram은 연속한 n개의 토큰을 한 묶음으로 보는 방식입니다. 설명을 위해 단어를 토큰처럼 생각하면 ‘오늘 / 회의 / 자료’에서 ‘오늘 회의’와 ‘회의 자료’가 2-gram입니다. 실제 모델의 토큰 경계는 단어 경계와 다를 수 있지만, 자주 나타나는 짧은 조합을 식별한다는 출발점은 같습니다.

DeepSeek의 Engram은 이런 조합을 키로 삼아 학습된 메모리 테이블에서 표현을 조회하고, 현재 문맥의 내부 상태와 결합합니다. 원래 연구의 도식이 아래 그림입니다. 모델이 익숙한 패턴까지 여러 층의 계산으로 재구성해야 하는 부담을 덜어주려는 접근으로, 추론 전체를 단순 검색으로 대체하는 구조는 아닙니다.

V4.1의 속도를 n-gram 하나로 설명할 수는 없습니다

V4.1 Flash의 공개 코드에는 n-gram을 해싱하는 전처리와 Engram 모듈이 있습니다. 조회한 표현은 현재 문맥과 얼마나 맞는지에 따른 게이트를 거쳐 모델의 내부 상태에 더해집니다. Engram이 모델 밖에서 답변 문장을 복사해 붙이는 기능이 아니라, 모델 안에서 쓰이는 구성 요소라는 점을 확인할 수 있습니다.

다만 V4.1 Flash에는 입력·출력의 비대칭 구조와 attention·cache 설계 등 여러 변화가 함께 들어갑니다. 따라서 발표된 속도나 비용 개선 전체를 ‘n-gram 덕분’이라고 단정할 수는 없습니다. Engram 연구의 설명용 구현 역시 완성된 V4.1 모델이나 그 성능을 재현하는 벤치마크가 아닙니다.

같은 이름, 다른 역할: 메모리와 다음 토큰 후보

n-gram speculative decoding은 다른 위치에서 작동합니다. 이미 나온 토큰 패턴을 찾아 다음에 올 여러 토큰을 후보로 제안하고, 본 모델이 이를 검증합니다. 잘 맞는 후보를 여러 개 받아들일 수 있으면 출력 과정의 반복을 줄일 수 있지만, 후보가 자주 틀리거나 검증 비용이 크면 이득이 작아질 수 있습니다.

Engram은 학습된 표현을 모델 내부에서 꺼내 쓰는 장치이고, speculative decoding은 생성할 토큰 후보를 먼저 제안하는 장치입니다. KV cache는 앞서 처리한 문맥의 attention 계산 결과를 재사용합니다. 세 가지 모두 재사용과 관련되지만 저장하는 것과 적용 위치가 다릅니다. API 사용자라면 서버 내부 기법을 직접 켜기보다, 자신이 쓰는 작업에서 결과와 비용이 어떻게 달라졌는지를 확인하는 것이 먼저입니다.

빨라진 뒤에 무엇을 남길 것인가

세 소식을 제품과 업무에 대입해 본 플래드랩스의 해석입니다.

저렴해진 만큼 호출을 늘리는 게 답은 아닙니다

한 번의 요청이 저렴해져도 에이전트가 더 자주, 더 오래 실행하면 월 비용은 늘 수 있습니다. 단가 인하를 곧바로 호출 횟수 확대에 쓰기보다, 요청 한 건의 재시도 상한과 하루 예산을 먼저 정해보세요. 절약한 자원 일부를 결과 검증에 쓰는 선택도 가능합니다.

검증도 제품의 일부여야 합니다

팀 규모가 작다고 모델 개발사 수준의 평가 조직이 필요한 것은 아닙니다. 대신 초안을 만드는 단계와 승인하는 단계를 분리하고, 어떤 입력과 모델로 결과가 나왔는지 남길 수는 있습니다. 문제가 생겼을 때 재현할 수 없는 자동화는, 처음에는 빨라도 다음 수정부터 느려집니다.

대화창보다 비교할 공간이 중요할 때가 있습니다

계약서 요약, 디자인 피드백, 데이터 보고서는 답변만 읽어서는 끝나지 않습니다. 원문과 결과를 옆에 놓고 차이를 확인해야 합니다. 새 기기를 기다리지 않아도 현재 제품에서 근거 링크를 찾기 쉬운지, 원문으로 돌아갈 때 작성 중인 내용이 유지되는지부터 점검할 수 있습니다.

같은 문서로 열 가지 질문을 던져보세요

직접 측정한 결과가 아닌 비교 실험 제안입니다. 공개 자료만 사용하고, 유료 API는 정한 예산 안에서 실행합니다.

반복 문맥이 많은 일을 하나 골라보세요. 예를 들어 공개 제품 설명서 한 편에서 열 가지 질문의 답과 근거 문장을 찾게 합니다. 기존에 쓰던 모델과 새로 검토하는 모델에 같은 자료·질문·출력 형식을 주고, 모델 이름과 실행 시각도 기록합니다. 내부 기법의 효과를 분리해 증명하는 실험이 아니라, 우리 작업에 맞는지 보는 작은 평가입니다.

1. 최초 요청과 반복 요청을 나누기

   첫 요청과 같은 문맥을 다시 쓴 요청의 시간을 따로 남깁니다. 제공된다면 usage의 입력·출력·캐시 관련 수치도 기록합니다. 캐시 적중이 공개되지 않으면 추측하지 않습니다.

2. 답과 근거를 함께 채점하기

   정답, 근거 문장의 일치, 자료에 없는 질문에서 답을 지어냈는지를 확인합니다. 빨라졌어도 사람이 다시 읽고 고치는 시간이 늘었다면 그대로 기록합니다.

3. 성공한 요청만 골라 보지 않기

   열 번의 전체 비용과 시간, 오류·재시도를 함께 합산합니다. 정한 호출 수와 예산에서 종료하고, 이전 결과와 비교해 제한된 업무부터 적용할지 판단합니다.

추론 속도와 반복 계산을 다룬 글 두 편

이번 호의 기술을 더 이해하고 싶을 때 함께 읽기 좋은 기존 글입니다.

다음 토큰을 미리 제안하면 빨라질까

Speculative Decoding의 기본 원리와 n-gram·Medusa·EAGLE·MTP를 살펴봅니다. Engram의 메모리 조회와 다른 출력 가속의 접근을 이해하는 데 도움이 됩니다.

기술 글 읽기 →

같은 문맥을 다시 읽는 비용 줄이기

vLLM과 LMCache로 KV cache를 재사용하는 원리와 적용 조건을 정리했습니다. 모델의 메모리 구조와 서비스에서 문맥을 재사용하는 전략을 구분해 읽어보세요.

기술 글 읽기 →