M6와 M5 Ultra, 로컬 LLM의 갈림길은 32GB

effidev·2026년 8월 26일

애플이 오늘 내놓은 칩 중에 공정이 가장 앞선 것이, 메모리는 가장 적게 붙습니다.

현지 시각 8월 25일, 애플이 M6와 M5 Ultra를 함께 공개했습니다. M6는 애플 최초의 2나노미터 칩이고 “세계에서 가장 빠른 싱글스레드 성능”을 내세웁니다. 그런데 애플이 같은 보도자료에서 “역대 가장 강력한 칩”이라고 부르는 쪽은 M6가 아니라 M5 Ultra입니다. 이름에서 알 수 있듯 한 세대 전 M5 계열이죠.

숫자로 보면 이유가 분명해집니다. M6의 통합 메모리는 최대 32GB, M5 Ultra는 최대 512GB입니다. 16배 차이입니다.

이 글은 이런 분을 위해 썼습니다. 내 컴퓨터에서 AI 모델을 직접 돌려 보고 싶은데(요금도 안 나가고 대화 내용이 밖으로 안 나가니까), 맥을 사야 할지 어느 걸 사야 할지 모르겠는 분. 그리고 “2나노”니 “쿼드 다이”니 하는 말이 실제로 내 작업에서 무엇을 바꾸는지가 궁금한 분입니다.

결론부터 말하면, 로컬에서 AI 모델을 돌리는 일에서 세대는 생각보다 덜 중요하고 통합 메모리 용량이 거의 전부를 정합니다. 이 글은 그 이유를 애플 공식 보도자료에 실제로 적힌 수치만으로 따라갑니다. 애플이 밝히지 않은 숫자는 추정하지 않고 그대로 비워 두겠습니다.

칩 넷과 기기 둘, 먼저 줄부터 세우자

오늘 나온 건 칩 네 종류와 기기 두 대입니다. 헷갈리기 쉬우니 먼저 정리하겠습니다.

교육용 가격은 각각 1,329,000원 · 2,809,000원 · 3,949,000원 · 8,799,000원입니다. 미국 가격은 $899 · $1,699 · $2,499 · $5,499이고요.

여기서 이미 이상한 점이 보입니다. 가장 새로운 칩(M6)이 표의 맨 위, 그러니까 메모리가 제일 적은 칸에 있습니다. 그리고 아래로 내려갈수록 칩 세대는 오히려 뒤로 갑니다. M6 → M5 Pro → M5 Max → M5 Ultra 순이니까요.

M5 Pro의 메모리 용량과 대역폭은 오늘 보도자료에 숫자가 나오지 않았습니다. 그래서 위 표에도 비워 뒀습니다. 짐작으로 채우면 그 순간 이 표가 쓸모없어지니까요.

통합 메모리가 뭐길래 계속 나오나

“통합 메모리(unified memory)“라는 말이 오늘 발표문에 계속 나옵니다. 이 단어를 오늘 처음 들었다면 여기부터 읽으시면 됩니다.

보통 PC에는 메모리가 두 종류 있습니다. CPU가 쓰는 램(RAM)과 그래픽카드가 따로 들고 있는 메모리(VRAM)입니다. 둘은 물리적으로 다른 칩이라, 그래픽카드가 뭔가 계산하려면 데이터를 램에서 VRAM으로 복사해 와야 합니다.

애플 실리콘은 이걸 하나로 합쳤습니다. CPU도 GPU도 뉴럴 엔진도 같은 메모리 덩어리를 그대로 들여다봅니다. 복사하는 단계가 없어지죠.

AI 모델을 돌릴 때 이 구조가 특별히 유리합니다. 모델을 돌리려면 모델 파일 전체를 메모리에 올려 두어야 하는데, 애플 실리콘에서는 “GPU가 쓸 수 있는 메모리”가 곧 “기기 전체 메모리”이기 때문입니다.

바꿔 말하면 이렇습니다. 32GB짜리 Mac mini는 AI 모델용 메모리도 최대 32GB입니다. 그보다 큰 모델은 아예 안 올라갑니다. 성능이 느려지는 게 아니라, 시작 자체가 안 됩니다.

애플이 두 칩을 소개한 문장을 나란히 놓으면

이 글의 핵심 근거는 벤치마크가 아니라 애플이 스스로 쓴 문장입니다. 같은 보도자료 안에서 M6와 M5 Ultra를 설명하는 표현이 눈에 띄게 다릅니다.

M6 문단은 이렇게 씁니다.

M6는 최대 32GB의 통합 메모리를 지원해 고사양 앱을 넘나들며 멀티태스킹하고, LLM을 온디바이스에서 구동해 보안과 개인정보 보호를 유지하면서 에이전틱 작업을 수행할 수 있다.

M5 Ultra 문단은 이렇게 씁니다.

사용자는 방대한 데이터 세트를 로컬 메모리에 모두 저장하고 초당 토큰 처리 속도를 높이며, 수천억 개의 파라미터를 갖춘 초대형 LLM을 온디바이스에서 완전히 구동할 수 있다.

차이가 보이시나요. M6 쪽에는 모델 크기가 한 번도 나오지 않습니다. 그냥 “LLM을 구동한다”고만 합니다. M5 Ultra 쪽에서만 “수천억 개의 파라미터”, “초대형”, “완전히 구동”이라는 표현이 나옵니다.

마케팅 문구는 보통 자랑할 수 있는 걸 자랑합니다. M6 문단에 모델 크기가 없다는 건, 그 자리에 넣을 만한 숫자가 없었다는 뜻으로 읽는 게 자연스럽습니다.

여기서 “파라미터”는 모델의 크기를 세는 단위입니다. 흔히 7B, 27B, 397B처럼 B(빌리언, 10억) 단위로 씁니다. 파라미터가 많을수록 파일이 커지고, 그만큼 메모리를 더 차지합니다.

32GB에서 먼저 막히는 것

그러면 32GB로 뭘 할 수 있고 뭘 못 할까요. 애플은 이 부분을 숫자로 말하지 않았으니, 저도 “몇 B까지 된다”는 식으로 단정하지 않겠습니다. 대신 구조적으로 확실한 것 두 가지만 짚겠습니다.

첫째, 모델 파일 크기가 메모리 한도를 넘으면 그 모델은 후보에서 사라집니다. 조금 느리게 도는 게 아니라 목록에서 빠지는 겁니다. 32GB 기기에서는 32GB짜리 파일을 올릴 자리도 사실상 없습니다. 운영체제와 다른 앱이 이미 얼마간 쓰고 있으니까요.

둘째, 모델만 메모리를 쓰는 게 아닙니다. 대화가 길어지면 그동안 오간 내용을 담아 두는 공간(KV 캐시라고 부릅니다)이 계속 불어납니다. 긴 문서를 통째로 넣고 질문하는 작업일수록 이 공간이 커지죠. 그래서 “모델 파일이 겨우 들어갔다”는 상태는 실사용에서 편한 상태가 아닙니다.

이 두 가지 때문에 로컬 LLM에서는 메모리 여유가 곧 선택지의 개수가 됩니다. 같은 모델이라도 설정에 따라 결과가 크게 달라지는 문제는 로컬 LLM, 같은 가중치인데 토큰 절반이 뒤집혔다에서 따로 다뤘습니다. 메모리를 아끼려고 설정을 조이면 그쪽 함정에 바로 걸립니다.

대역폭 7배가 어디서 드러나나

메모리 용량 다음으로 중요한 게 대역폭입니다. 오늘 발표된 세 칩의 대역폭은 이렇습니다.

• M6: 최대 170GB/s (M5 대비 10% 향상, M1 대비 2.5배)
• M5 Max: 최대 614GB/s
• M5 Ultra: 1.2TB/s (M3 Ultra 대비 50% 향상)

대역폭은 “1초에 메모리에서 몇 기가바이트를 읽어 올 수 있느냐”입니다. 왜 이게 AI에서 중요하냐면, 모델이 단어 하나를 뱉을 때마다 모델 전체를 한 번씩 훑어야 하기 때문입니다.

그래서 단어가 나오는 속도(초당 토큰)는 대역폭에 거의 비례해서 움직입니다. 애플도 M5 Ultra 문단에서 통합 메모리 대역폭을 설명하며 “초당 토큰 처리 속도를 높이며”라고 직접 연결해 놨습니다.

1.2TB/s는 1,200GB/s입니다. M6의 170GB/s와 비교하면 약 7배죠. 용량 16배, 대역폭 7배 — 같은 날 발표된 두 칩 사이의 간격입니다.

다만 애플이 “M6에서 이 모델이 초당 몇 토큰”이라는 식의 수치를 낸 건 아닙니다. 대역폭이 몇 배라고 실제 속도가 정확히 그 배수가 되지도 않고요. 여기서는 “대역폭 차이가 곧 체감 속도 차이로 이어진다”는 방향만 확인하고 넘어가겠습니다.

M6가 최신인데 Ultra는 왜 M5인가

M5 Ultra가 왜 최신 M6가 아니라 M5 계열인지, 애플은 구조로 설명합니다.

M5 Ultra는 듀얼 다이 M5 Max 칩 두 개를 UltraFusion으로 연결한 쿼드 다이입니다. M 시리즈에서 처음 나온 구조입니다. 다이(die)는 실리콘 조각 하나를 말하는데, 큰 칩 하나를 통째로 만드는 대신 작은 조각 여럿을 초고속으로 이어 붙여 하나처럼 쓰는 방식입니다.

애플이 밝힌 연결 사양은 다이 간 대역폭 4.4TB/s 이상, 연결 밀도는 이전 대비 6배 이상입니다. 이 정도로 붙여 놔야 네 조각이 하나의 프로세서처럼 동작합니다.

여기서 순서가 보입니다. Ultra 칩을 만들려면 그 세대의 Max 칩이 먼저 완성돼 있어야 합니다. M6는 오늘 처음 나온 칩이라 아직 M6 Max가 없습니다. 그래서 오늘 시점에서 가장 큰 칩을 만들려면 재료는 M5 Max일 수밖에 없습니다.

즉 “M6가 M5 Ultra보다 최신인데 왜 약한가”는 질문 자체가 어긋나 있습니다. 둘은 경쟁 관계가 아니라 다른 사다리의 다른 칸입니다. M6는 그 세대의 기본형이고, M5 Ultra는 앞 세대의 꼭대기입니다.

작은 것이 큰 것을 이기는 사례가 없지는 않습니다. 모델 쪽에서는 오르니스 1.5, 11배 작은 모델이 코딩을 다 이겼다처럼 크기 역전이 실제로 일어납니다. 하지만 그건 학습 방식의 차이가 만드는 일이고, 메모리 용량은 그런 식으로 뒤집히지 않습니다. 32GB는 어떤 최적화를 해도 512GB가 되지 않습니다.

비싼 쪽이 단가는 싸다

가격을 그대로 보면 감이 잘 안 오니, 1GB당 얼마인지로 바꿔 보겠습니다. 시작가와 최대 메모리를 그대로 나눈 값입니다.

주의할 점이 있습니다. 시작가 기기에 최대 메모리가 들어 있는 게 아닙니다. 시작가는 기본 구성 가격이고, 메모리를 최대치로 올리면 값은 더 올라갑니다. 그래서 위 표는 실제 견적이 아니라 “이 급에서 최대로 갈 수 있는 지점”을 비교하는 눈금으로만 보셔야 합니다.

그렇게 보면 방향은 분명합니다. 기기 값은 M6에서 M5 Ultra로 가면서 약 6.3배 오르는데, 메모리는 16배 늘어납니다. 메모리를 기준으로 삼는 순간 비싼 쪽이 오히려 단가가 쌉니다.

이게 로컬 LLM 쪽에서 자주 나오는 역설입니다. 클라우드 API 요금을 아끼려고 로컬로 내려오는 건데, 정작 로컬에서 쓸 만한 크기를 감당하려면 초기 비용이 커집니다. 요금제 경로에 따라 실제 단가가 얼마나 갈리는지는 GPT-5.6 Sol 반값, 경로 따라 2.2배 갈린다에서 다룬 적이 있습니다. 두 축을 같이 놓고 봐야 계산이 맞습니다.

클러스터라는 우회로, 그리고 3배라는 천장

이번 Mac Studio에는 여러 대를 묶는 기능이 들어갔습니다. Thunderbolt 5와 RDMA(원격 직접 메모리 액세스)를 기본 지원해서, 여러 대의 Mac Studio를 클러스터로 구성할 수 있습니다.

애플의 설명은 이렇습니다. 여러 시스템에 걸쳐 방대한 공유 메모리 풀을 구성할 수 있고, 그래서 현재 나와 있는 가장 큰 프런티어급 오픈 웨이트 모델도 로드할 수 있다는 겁니다.

수치도 하나 나왔습니다. Mac Studio 4대를 묶으면 단일 시스템 대비 최대 3배 빠른 AI 추론 성능입니다. 4배가 아니라 3배라는 점을 기억해 두면 좋습니다. 대수를 늘려도 그대로 곱해지지는 않는다는 뜻이니까요.

Thunderbolt 5 포트 대역폭은 최대 120Gb/s입니다. 단위가 다르니 헷갈리기 쉬운데, 앞서 나온 메모리 대역폭(1.2TB/s = 9,600Gb/s 수준)과 비교하면 기기 사이 통로가 기기 안 통로보다 훨씬 좁습니다. 3배에 그치는 이유를 여기서 짐작할 수 있습니다.

개인이 네 대를 살 일은 드물겠지만, 팀 단위로 모델을 돌려야 하는 곳에는 실제 선택지입니다.

Core AI, 그리고 뉴럴 엔진 두 개

하드웨어만 나온 게 아닙니다. 애플이 Core AI라는 새 프레임워크를 함께 소개했습니다. 애플 실리콘에서 AI 모델을 제작하고, 구동하고, 배포하기 위한 프레임워크라고 설명합니다.

통합 메모리와 CPU·GPU·뉴럴 엔진을 아우르는 구조로 최적화돼 있어서, 개발자가 풀스케일 LLM을 로컬에 배포하거나 자체 모델을 앱에 넣을 수 있게 한다는 게 요지입니다. 기존 MLX(애플의 오픈소스 머신러닝 프레임워크)도 함께 언급됐고요.

칩 쪽에서 눈여겨볼 변화는 두 가지입니다.

하나는 GPU 코어마다 Neural Accelerator가 들어간 것입니다. 행렬 곱셈을 가속하는 장치인데, AI 연산의 대부분이 행렬 곱셈이라 여기가 빨라지면 전체가 빨라집니다. M6는 이 설계로 AI용 GPU 최대 컴퓨팅 성능이 M5 대비 약 30%, M1 대비 8배 이상 올랐습니다. M5 Ultra는 M3 Ultra 대비 최대 4.5배, M1 Ultra 대비 6배 이상입니다.

다른 하나는 M6의 듀얼 16코어 뉴럴 엔진입니다. 엔진이 두 개 들어갔고, 시스템 프레임워크가 둘을 동시에 쓸 수 있어서 최대 컴퓨팅 성능이 이전 세대 대비 최대 2배라고 합니다. M5 Ultra 쪽 뉴럴 엔진은 32코어입니다.

한 가지 더. 애플은 M6 GPU를 설명하며 “온디바이스 LLM과 상호작용할 때 프롬프트 처리 속도도 대폭 빨라진다”고 적었습니다. 프롬프트 처리는 내가 입력한 내용을 모델이 한 번에 읽어 들이는 단계로, 답을 뱉는 단계와는 다른 구간입니다. 즉 M6가 개선한 건 주로 읽어 들이는 쪽이고, 답이 나오는 속도를 좌우하는 대역폭은 10% 향상에 그쳤습니다.

512GB만 한 달 늦게 온다

사려는 분에게 중요한 실무 정보입니다. 오늘 발표된 제품의 일정은 이렇습니다.

• 사전 주문: 8월 25일(현지 시각)부터, 한국 포함 30개 국가·지역
• 고객 배송 시작 및 매장 판매: 9월 22일
• 512GB 통합 메모리 구성 Mac Studio: 10월 말

512GB만 한 달가량 늦습니다. 이 글에서 계속 이야기한 “가장 큰 모델을 통째로 올린다”는 구성이 바로 그 512GB입니다. 9월 22일에 도착하는 Mac Studio는 그보다 작은 구성이라는 뜻이죠.

운영체제는 macOS 27이고 올가을 무료 업데이트로 제공됩니다. 발표 시점 기준으로는 아직 퍼블릭 베타 단계입니다.

연결 사양도 함께 정리하면, Mac mini는 M6 구성에 Thunderbolt 4 포트 3개, M5 Pro 구성에 Thunderbolt 5 포트 3개가 들어갑니다. 같은 Mac mini인데 포트 규격이 갈리는 셈이라 외장 장비를 붙일 계획이 있다면 확인이 필요합니다. 두 구성 모두 Wi-Fi 7과 블루투스 6, 2.5Gb 이더넷을 지원하고 10Gb 이더넷은 선택 구성입니다.

보도자료에 없는 숫자를 적어 둔다

정확히 하기 위해, 오늘 보도자료에서 확인되지 않은 것들을 적어 둡니다. 아래 항목을 근거로 결정하시면 안 됩니다.

• 실제 초당 토큰 수. 어떤 모델이 어느 기기에서 몇 토큰이 나오는지는 나오지 않았습니다. AI 성능 배수(4.3배, 3.9배 등)는 애플의 자체 측정치이며, 비교 대상은 이전 세대 기기입니다.
• M5 Pro의 메모리 용량과 대역폭. 보도자료에 숫자가 없습니다.
• 기본 구성의 메모리 용량. 모든 수치가 “최대”입니다. 시작가 모델의 기본 메모리는 별도 확인이 필요합니다.
• 메모리 업그레이드 비용. 32GB든 512GB든 최대치까지 올리는 데 얼마가 더 드는지는 이 발표문에 없습니다.
• 경쟁 하드웨어와의 직접 비교. 애플 수치는 전부 이전 세대 애플 제품 대비입니다.

성능 배수의 비교 기준도 각주에 밝혀져 있습니다. Mac Studio 수치는 M3 Ultra 32코어 CPU·80코어 GPU·512GB·8TB SSD 구성과 비교한 값이고, Mac mini 수치는 M4 10코어 CPU·10코어 GPU·32GB·2TB SSD 구성과 비교한 값입니다. 같은 “4배”라도 무엇과 비교했는지에 따라 의미가 달라집니다.

결정은 이 순서로 좁힌다

정리하겠습니다. 순서를 지키면 후보가 빠르게 줄어듭니다.

1단계 — 돌리려는 모델의 파일 크기부터 확인합니다. 성능 이야기보다 이게 먼저입니다. 모델 배포 페이지에 파일 용량이 적혀 있습니다. 그 숫자가 기기 메모리보다 크면 그 조합은 끝난 겁니다.

2단계 — 여유분을 얹습니다. 운영체제와 다른 앱, 그리고 대화가 길어질수록 커지는 캐시가 같이 들어갑니다. 파일 크기에 딱 맞춘 구성은 실사용에서 답답합니다.

3단계 — 그 다음에야 속도를 봅니다. 1·2단계를 통과한 후보가 둘 이상 남았을 때 비로소 대역폭과 코어 수를 비교하면 됩니다. 통과한 후보가 하나뿐이면 속도 비교는 할 필요가 없습니다.

이 순서대로 보면 오늘 발표는 이렇게 읽힙니다. 32GB 안에서 도는 작업이 목적이라면 149.9만 원짜리 M6 Mac mini가 가장 앞선 공정의 칩을 가장 싸게 주는 선택입니다. 반대로 “수천억 파라미터급 모델을 통째로 올린다”가 목적이라면, 오늘 나온 넷 중 그 문장이 붙은 제품은 949만 원짜리 M5 Ultra 하나뿐이고 배송은 10월 말입니다.

그 사이가 애매하다면 128GB의 M5 Max가 중간 칸에 있습니다. 그리고 어느 칸을 고르든, 살 때 정한 메모리는 나중에 바꿀 수 없다는 점은 같습니다. 통합 메모리는 칩에 붙어 나오니까요.

지금 당장 할 일이 하나 있다면, 사고 싶은 기기를 고르기 전에 돌리고 싶은 모델의 파일 용량부터 찾아보는 것입니다. 그 숫자 하나면 오늘 나온 네 가지 중 몇 개가 후보에서 빠지는지 바로 나옵니다.

출처: Apple 뉴스룸 보도자료 (2026년 8월 25일)

• Apple, 성능과 AI 컴퓨팅의 획기적인 도약을 이끌 M6 및 M5 Ultra 공개
• Apple, 온디바이스 AI와 극한의 프로 워크플로를 위한 M5 Max 및 M5 Ultra 탑재 신규 Mac Studio 공개
• Apple, 완전히 새로운 M6 및 M5 Pro 탑재 Mac mini 공개