[태그:] GPU

AMD가 Taalas를 품으려는 이유는 GPU를 버리기 위해서라기보다, GPU와 다른 방식으로 AI 추론을 처리할 선택지를 확보하려는 것​에 가깝습니다.

AMD는 2026년 8월 6일 AI 추론 반도체 스타트업 Taalas를 인수하기 위한 최종 계약을 체결했다고 발표했습니다. 아직 거래가 끝난 것은 아닙니다. 규제 승인과 통상적인 종결 조건이 남아 있으며, AMD도 Taalas 기술을 Instinct GPU와 함께 사용하는 시스템 수준의 솔루션으로 발전시키겠다고 밝혔습니다.

관심을 끄는 부분은 Taalas의 기술입니다. 일반적인 GPU처럼 여러 AI 모델을 소프트웨어로 불러와 실행하는 대신, 특정 AI 모델을 칩 자체에 강하게 특화하는 방식을 택했습니다.

그 결과 속도를 얻는 대신 범용성을 포기합니다. AMD가 이 극단적인 선택을 왜 필요로 하는지 이해하려면 먼저 HC1이 일반 GPU와 무엇이 다른지 봐야 합니다.

AMD의 Taalas 인수, 아직 완료된 것은 아니다

먼저 현재 상태부터 구분할 필요가 있습니다.

AMD 공식 발표 표현은 “definitive agreement to acquire Taalas”, 즉 Taalas를 인수하기 위한 최종 계약을 체결했다는 것입니다. 발표문에는 인수가 규제 승인과 통상적인 거래 종결 조건의 적용을 받는다는 내용도 명시돼 있습니다.

따라서 현 단계에서 “AMD가 Taalas 인수를 완료했다”고 표현하기보다는 “인수 계약을 체결했다” 또는 “인수를 추진한다”​고 설명하는 편이 정확합니다.

Taalas HC1은 어떤 AI 추론 칩인가

Taalas의 첫 번째 칩인 HC1은 회사 스스로도 Technology Demonstrator, 즉 기술 시연용 제품으로 소개하고 있습니다.

공개 사양은 다음과 같습니다.

• 실행 모델: Llama 3.1 8B
• 제조 공정: TSMC 6nm
• 다이 면적: 815㎟
• 트랜지스터: 530억 개
• 서버 소비전력 표기: 2.5kW
• 회사 측 성능 측정: 사용자당 약 17,000 tokens/s

특이한 점은 성능 숫자보다 모델을 실행하는 방식입니다.

일반 GPU는 모델을 메모리에서 읽는다

GPU에서 대규모 언어모델을 실행하려면 모델의 방대한 가중치를 메모리에 저장하고 연산할 때 지속적으로 읽어와야 합니다.

AI 추론에서는 계산 자체뿐 아니라 이런 데이터 이동이 병목이 될 수 있습니다. 그래서 최신 AI GPU에는 대용량 HBM과 높은 메모리 대역폭이 중요합니다.

AMD 역시 Instinct GPU를 이용해 다양한 모델과 프레임워크를 지원하는 범용 AI 추론 플랫폼을 개발하고 있습니다. 최신 Instinct 시스템은 학습, 추론, 파인튜닝 등 여러 워크로드를 처리하도록 설계돼 있습니다.

Taalas는 아예 모델을 하드웨어에 맞춰버린다

Taalas는 반대쪽으로 갔습니다.

특정 모델의 데이터 흐름과 가중치를 실리콘에 강하게 특화해 저장과 연산 사이에서 데이터를 계속 이동해야 하는 부담을 줄이는 구조입니다.

Taalas는 자사 기술을 설명하면서 HC1에는 HBM, 첨단 패키징, 3D 스태킹 같은 기존 고성능 추론 시스템의 일부 요소가 필요하지 않으며 저장과 연산을 한 칩 안에서 통합한다고 설명합니다.

쉽게 비교하면 이렇습니다.

결국 “어떤 모델이든 실행하는 칩”과 “한 모델을 매우 빠르게 실행하기 위해 만들어진 칩”의 차이​에 가깝습니다.

초당 17,000토큰은 그대로 비교하면 안 된다

Taalas가 공개한 HC1의 대표 숫자는 사용자당 약 17,000 tokens/s​입니다.

실제로 CNX Software가 Taalas의 공개 챗봇을 사용했을 때 일반적인 질문에서 약 15,000~16,000 tokens/s 수준이 표시되는 사례도 확인됐습니다.

다만 이 숫자만 보고 “HC1이 모든 GPU보다 수십 배 빠르다”고 결론 내리면 곤란합니다.

Taalas의 공식 성능 비교는 Llama 3.1 8B, 입력 1K·출력 1K 조건​에서 이뤄졌고 HC1 성능 자체는 Taalas 연구실에서 측정한 결과입니다.

또 하나 중요한 조건이 있습니다.

Taalas는 HC1의 1세대 구현에서 자체 3비트 형식을 기반으로 3비트와 6비트 파라미터를 혼합한 공격적인 양자화를 적용했으며, 회사 스스로도 이 때문에 GPU 기준과 비교했을 때 일부 품질 저하가 발생한다고 설명합니다.

즉,

17,000 tokens/s = 모든 AI 모델에서 GPU보다 빠르다는 뜻

은 아닙니다.

정확한 해석은 “특정 모델을 특정 방식으로 극단적으로 최적화했을 때 매우 높은 단일 사용자 생성 속도를 보여준 기술 데모”​에 가깝습니다.

그런데 AMD는 왜 범용성이 낮은 기술을 사려 할까

여기가 이번 AMD Taalas 인수의 핵심입니다.

AMD의 공식 발표에는 Taalas 칩이 Instinct GPU를 대체한다고 적혀 있지 않습니다. 오히려 반대입니다.

AMD는 Taalas 기술이 Helios 랙스케일 시스템, Instinct GPU, EPYC CPU, ROCm 등을 포함한 기존 AI 플랫폼을 보완(complement)​하고, Taalas 기술을 가속기 로드맵에 통합해 Instinct GPU와 함께 시스템 수준 솔루션을 개발하겠다고 밝혔습니다.

따라서 공개된 정보만 놓고 보면 AMD의 전략은 다음처럼 해석하는 것이 가장 자연스럽습니다.

1. 모든 추론을 GPU 하나로 해결하지 않겠다는 전략

AI 추론이라고 해도 작업 성격은 모두 같지 않습니다.

새로운 모델을 시험하거나 모델이 계속 바뀌는 환경이라면 범용 GPU가 필요합니다. 반대로 이미 검증된 하나의 모델에 엄청난 양의 요청이 반복된다면 유연성을 일부 포기하고 효율을 높이는 선택이 경제적일 수 있습니다.

TrendForce 역시 범용 GPU는 학습과 멀티모델 환경에서 계속 중요한 역할을 하고, 특정한 추론 환경에서는 특화 아키텍처가 별도 영역을 형성할 가능성이 있다고 분석했습니다.

2. AI 시장의 중심이 ‘학습’에서 ‘대규모 추론’까지 넓어지고 있다

모델을 한 번 학습한 뒤 실제 서비스에 투입하면 같은 모델을 수많은 사용자에게 계속 실행해야 합니다.

Reuters는 이번 거래를 전하면서 AI 산업이 학습에서 실시간·대량 배포로 확대되면서 추론 전용 반도체가 반도체 업체의 주요 경쟁 분야가 되고 있다고 짚었습니다.

AMD 입장에서는 Instinct GPU만 빠르게 만드는 것뿐 아니라 워크로드에 따라 서로 다른 연산 방식을 조합할 기술을 확보할 이유가 커진 셈입니다.

3. AMD의 Helios에는 이미 여러 종류의 컴퓨팅 요소가 들어간다

AMD Helios는 단일 GPU 제품이 아닙니다.

Instinct GPU와 EPYC CPU, Pensando 네트워킹, ROCm 소프트웨어 등을 하나의 랙 수준 인프라에 통합하는 구조입니다. AMD는 Helios를 대규모 추론과 프런티어 모델 학습·파인튜닝을 처리하는 플랫폼으로 설명하고 있습니다.

여기에 모델 특화 추론 기술을 추가하면 AMD는 같은 플랫폼 안에서 범용 GPU와 특화 추론 실리콘을 함께 활용할 가능성을 확보하게 됩니다.

구체적으로 어떤 연산을 어느 칩에 맡길지는 아직 AMD가 공개하지 않았습니다. 따라서 “GPU는 입력 처리, Taalas는 토큰 생성”처럼 구체적인 역할을 현재 확정해서 말하는 것은 이릅니다.

그렇다면 HC1이 GPU를 대체할까

현재 공개된 정보만으로는 가능성이 낮습니다.

오히려 두 방식의 역할이 다릅니다.

Taalas HC1의 가장 큰 장점인 ‘모델 특화’는 동시에 가장 큰 약점입니다. AI 모델이 바뀌면 일반 GPU에서는 새 모델을 소프트웨어로 배포할 수 있지만, Taalas 방식은 기본 모델 자체가 하드웨어 설계와 밀접하게 연결됩니다.

Forbes의 기술 분석 역시 이 구조를 성능과 유연성 사이의 극단적인 트레이드오프로 평가합니다. 특정 모델을 장기간 대규모로 사용한다면 경제성이 생길 수 있지만 모델이 자주 바뀌는 환경에서는 불리할 수 있다는 것입니다.

Taalas는 이러한 한계를 줄이기 위해 LoRA 기반 파인튜닝을 지원하고 새로운 모델을 빠르게 실리콘으로 전환할 수 있다고 주장하고 있습니다. 하지만 대규모 상용 환경에서도 이 구조가 경제적으로 유지되는지는 아직 검증할 부분이 많습니다.

이번 인수에서 확인해야 할 5가지

AMD Taalas 인수의 실질적인 가치는 앞으로 공개될 내용에 따라 판단해야 합니다.

• 거래가 실제로 종결되는가
• Taalas 기술이 AMD 제품 로드맵에 언제 들어가는가
• Instinct GPU와 어떤 방식으로 결합되는가
• HC1 기술 데모가 더 큰 최신 모델에서도 확장되는가
• 속도뿐 아니라 품질·동시 사용자·전력·비용까지 포함한 독립 벤치마크가 나오는가

특히 마지막 항목이 중요합니다.

AI 추론 시스템을 실제 데이터센터에서 평가할 때는 사용자 한 명의 tokens/s만 보는 것이 아니라 전체 처리량, 동시 사용자 수, 지연시간, 모델 품질, 전력 소비, 서비스 비용을 함께 봐야 합니다.

HC1은 흥미로운 결과를 보여줬지만 아직 기술 데모와 상용 데이터센터 플랫폼 사이에는 검증해야 할 단계가 남아 있습니다.

핵심 요약

AMD가 Taalas 인수를 추진하는 이유를 한 문장으로 줄이면 “GPU만으로 모든 AI 추론을 처리하는 대신, 특정 워크로드에서는 모델 특화 실리콘을 결합할 수 있는 선택지를 확보하기 위해서”​라고 볼 수 있습니다.

Taalas HC1은 Llama 3.1 8B를 실리콘에 강하게 특화해 Taalas 자체 측정 기준 약 17,000 tokens/s를 기록했습니다. 대신 모델 변경이 쉬운 GPU의 범용성을 상당 부분 포기합니다.

AMD 역시 현재 Taalas 기술을 Instinct GPU의 대체재가 아니라 기존 AI 플랫폼을 보완하는 기술로 설명하고 있습니다. 그리고 2026년 8월 7일 현재 인수 거래 자체도 아직 종결되지 않았습니다.

결국 이번 거래에서 봐야 할 것은 “Taalas가 GPU를 이기느냐”보다는 AMD가 범용 GPU와 모델 특화 칩을 어떻게 한 시스템 안에서 조합하느냐입니다.

FAQ

AMD의 Taalas 인수는 완료됐나요?

아닙니다. 2026년 8월 6일 AMD가 Taalas를 인수하기 위한 최종 계약 체결을 발표했으며, 현재 규제 승인과 통상적인 거래 종결 조건이 남아 있습니다.

Taalas HC1은 어떤 AI 모델을 사용하나요?

현재 공개된 HC1 기술 데모는 Meta의 Llama 3.1 8B를 사용합니다. Taalas는 HC1을 기술 시연용 제품으로 분류하고 있습니다.

HC1이 정말 초당 17,000토큰을 생성하나요?

Taalas가 Llama 3.1 8B, 입력 1K·출력 1K 조건에서 공개한 수치는 사용자당 약 17,000 tokens/s입니다. 독립 매체의 공개 데모 사용에서도 약 15,000~16,000 tokens/s 수준이 관찰됐지만, 모든 AI 모델이나 모든 조건에서 동일한 성능이 나온다는 의미는 아닙니다.

Taalas 칩은 AI 모델을 바꿀 수 없나요?

HC1은 기본 모델을 하드웨어에 강하게 특화하기 때문에 GPU처럼 모델을 자유롭게 교체하는 방식과 다릅니다. 다만 Taalas는 LoRA 방식의 파인튜닝과 가변 컨텍스트 설정을 지원한다고 설명하고 있습니다.

AMD가 앞으로 Instinct GPU 대신 Taalas 칩을 사용할까요?

현재 공식 발표로는 그렇게 볼 근거가 없습니다. AMD는 Taalas 기술을 Instinct GPU 등 기존 AI 플랫폼과 결합하는 방향을 제시하고 있습니다.

출처 및 참고자료

1. AMD, AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market, 2026-08-06. AMD 공식 발표 확인
2. Taalas, The path to ubiquitous AI, 2026-02 공개. Taalas 기술 설명 확인
3. Taalas, HC1 Technology Demonstrator 제품 자료, 2026-08-07 확인. Taalas HC1 제품 자료
4. Reuters, AMD deepens AI inference bet with Taalas deal as chip race heats up, 2026-08-06. Reuters 보도 확인
5. The Register, AMD acquires AI chip startup Taalas to boost inference performance by etching models into silicon, 2026-08-06. The Register 기술 분석
6. CNX Software, Taalas HC1 hardwired Llama-3.1 8B AI accelerator delivers up to 17,000 tokens/s, 2026-02-22. CNX Software 공개 데모 확인