방방구석컴퍼니
← 이야기 목록
AI 활용2026-10-21

로컬 LLM 사양, 모델 크기와 교대 방식 실측

로컬 LLM 사양을 LU 3.0.6과 RTX 5080 16GB 실측으로 설명합니다. 채팅·그림·영상·코딩의 메모리 사용량과 무료 범위를 구분합니다.

방

방구석컴퍼니

혼자 일하는 사람 · 작업 기록

로컬 거대 언어 모델(LLM) 사양은 모델 크기와 서로 다른 모델을 메모리에서 내리고 올리는 방식을 함께 봐야 합니다. 시험일은 2026년 10월 13일이었고, 컴퓨터 메모리 62GB와 RTX 5080 16GB 환경에서 엘유(LU) 3.0.6을 실행했습니다. 채팅은 약 7GB, 짧은 영상은 약 9GB, 그림은 약 13GB를 썼고, 기능을 전부 상주시키지 않고 교대시켜 네 작업을 확인했습니다.

이 글은 로컬 AI의 구조와 실측 경계를 확인하려는 분을 위한 기록입니다. 더 작은 8GB·12GB 장비는 실제로 재보지 않았으므로, 그 구간은 보장값이 아니라 다음 실험의 출발점으로만 다룹니다.

로컬 실행에서 함께 볼 세 가지

모델 파일 크기, 실행 중 그래픽카드 메모리, 동시에 올라간 모델 수를 함께 봐야 합니다. 파일이 저장장치에 들어간다고 실행 메모리에도 들어가는 것은 아닙니다.

엘유는 모델 목록 오른쪽 위에서 그래픽카드와 컴퓨터 메모리를 읽고, 각 후보에 실행 적합 상태를 붙였습니다. 저는 이 표시를 성능 순위가 아니라 다운로드 전에 거르는 장치로 사용했습니다.

엘유 모델 목록과 PC 사양

여러 기능을 동시에 올리지 않는 구조

채팅 모델을 켜 둔 상태에서 그림 만들기를 누르자 LU는 “그래픽 메모리 비우는 중”을 표시했습니다. 채팅 모델을 내린 뒤 그림 모델을 올린 것입니다.

이 교대가 없으면 7GB 채팅과 13GB 그림이 함께 20GB 가까운 공간을 요구할 수 있습니다. 제가 본 한 앱의 장점은 기능 개수가 아니라 이 전환을 사용자가 직접 관리하지 않아도 된다는 점이었습니다.

채팅 실측의 조건과 경계

9B 규모인 큐웬(Qwen) 3.5의 약 6.1GB 구성을 받았습니다. 다운로드는 약 9분, 앱 측정 속도는 초당 100토큰 이상이었습니다. 그래픽카드 사용량은 7GB 부근이었습니다.

이 값은 RTX 5080 16GB에서 나온 단일 측정입니다. 다른 16GB 카드도 같은 속도라고 일반화할 수 없습니다.

자연스러운 한국어와 사실 정확도의 분리

긴 글 압축과 업무용 사과문, 영어 문장 번역은 조금만 다듬으면 쓸 만했습니다. 맞춤법 시험에서는 글자가 하나 빠졌고, 한글날 질문에는 12월 9일이라는 오답이 나왔습니다.

저는 여기서 첫 사용 기준을 바꿨습니다. 모델을 “한국어를 잘한다”로 평가하지 않고, 사람이 즉시 검증할 수 있는 결과를 내는가로 평가했습니다.

그림 모델 교체 전후

첫 모델은 25초 안팎으로 빨랐지만 인물 결과가 흐렸습니다. 지시는 유지하고 큐웬 이미지 모델(Qwen-Image) 2.1을 골랐더니 40~55초에 선명한 이미지가 나왔습니다.

큐웬 이미지 2.1 결과

앱과 입력이 같아도 모델이 달라지면 결과가 바뀝니다. 그래서 모델 목록을 한곳에서 바꾸는 구조가 기능 통합보다 더 큰 효용이었습니다.

큐웬 이미지의 업무 사용 조건

이번 시험의 큐웬 이미지 2.1은 연구와 비상업 평가에만 허용됐습니다. 선명한 결과를 얻었다는 사실이 상업 이용 허가를 뜻하지 않습니다.

라이선스가 수익 활동을 허용하지 않으면 납품과 광고 소재에서 제외해야 합니다. 모델 카드의 조건은 품질표보다 앞에 놓여야 합니다.

영상과 그림의 메모리 차이

정지 이미지를 길이 4초의 동영상으로 바꾸자 그래픽카드 메모리가 약 9GB 들었고 처리에는 5분가량 필요했습니다. 그림 두 모델은 약 13GB 안팎을 썼습니다.

모델 종류가 다르므로 “영상이 그림보다 가볍다”는 일반 법칙은 아닙니다. 이번에 고른 특정 영상 모델이 특정 그림 모델보다 적게 썼다는 관찰입니다.

영상 품질의 실용 범위

고개와 눈 움직임은 생겼지만 컵을 들어 달라는 동작은 끝내 수행하지 않았고 얼굴도 조금 변했습니다. 저는 광고 완성본이라는 기대를 버렸습니다.

움직이는 썸네일이나 시안처럼 실패 비용이 낮은 상황이라면 쓸 수 있습니다. 인물 일관성과 지시 이행이 중요한 납품본에는 부족했습니다.

변경 적용 전 사람이 확인한다

한국어로 단일 파일 할 일 앱을 요청하자 약 1분 50초 뒤 변경 내역을 제시했습니다. 엘유는 즉시 저장하지 않고 모두 적용 또는 모두 거절을 기다렸습니다.

로컬 모델이 만든 할 일 앱

추가, 완료 표시, 삭제, 새로고침 뒤 유지가 모두 작동했습니다. 코딩 결과 자체보다 적용 전에 사람이 경계를 정할 수 있다는 점이 더 중요했습니다.

90초 연결 시험이 말해 주는 범위

채팅과 모델 로딩을 켠 90초 동안 엘유 프로그램의 연결 주소를 2초 간격으로 적었습니다. 기록에는 내 PC 내부 주소인 127.0.0.1만 남았으며 인터넷 쪽 주소는 잡히지 않았습니다.

이 시험은 해당 90초의 두 동작만 설명합니다. 업데이트 확인, 유료 클라우드, 다른 메뉴까지 영구적으로 외부 통신이 없다는 증명은 아닙니다.

무료 로컬과 유료 클라우드의 경계

앱과 로컬 모델 사용은 계정 없이 무료였습니다. 반면 화면의 클라우드 스위치는 구독이나 크레딧이 필요한 엘유 랩스로 넘어갑니다.

무료라는 문구만 보지 말고 현재 선택한 실행 위치를 확인해야 합니다. 로컬 모델과 클라우드 모델은 비용과 데이터 경계가 다릅니다.

메모리 크기 해석의 한계

관찰한 작업RTX 5080 16GB의 그래픽 메모리더 작은 카드에 대한 결론
큐웬 3.5 9B 채팅·코딩약 7GB8GB 후보이나 미실측
사진 기반 4초 영상약 9GB12GB 후보이나 미실측
시험한 그림 모델 2개약 13GB16GB 권장 범위로 관찰

이 표는 크기별 추천표가 아니라 측정값과 미측정값을 분리한 표입니다. 8GB·12GB의 실제 처리 속도, 안정성, 다른 카드 차이는 남아 있습니다.

“큰 모델이 좋다”는 기준의 폐기

처음에는 파일이 큰 모델이 더 좋은 결과를 낼 거라 생각했습니다. 그러나 한국어 사실 질문은 작은 업무 초안보다 오히려 위험했고, 그림은 모델을 바꾸자 품질이 크게 달라졌습니다.

모델 크기 하나로 채팅 정확도, 그림 품질, 영상 지시 이행을 함께 설명할 수 없었습니다. 이제는 작업마다 검증 문제를 하나씩 붙입니다.

설치 경고를 다루는 방법

윈도우의 “PC를 보호했습니다” 경고는 설치본에 코드 서명이 붙지 않은 상태라 나타났습니다. 저는 깃허브(GitHub)에 있는 공식 배포본과 파일 지문을 대조했습니다.

백신을 끄는 것은 설치 해결책으로 선택하지 않았습니다. 출처와 파일 동일성을 확인하지 못하면 성능 시험으로 넘어가지 않는 편이 맞습니다.

기존 컴피유아이와 주소 충돌

기존 컴피유아이(ComfyUI)와 엘유가 설치한 프로그램이 같은 주소 번호를 쓰면 충돌할 수 있습니다. 제 환경에서도 설정에서 한쪽 번호를 바꿔야 했습니다.

로컬 AI 올인원은 설치를 줄이지만 기존 환경까지 자동으로 정리해 주지는 않습니다. 이미 쓰는 프로그램의 포트와 저장 위치를 적어 두세요.

첫 주에 맡길 작업 하나

첫 작업은 요약, 메일 초안, 단일 파일 도구처럼 성공을 눈으로 확인할 수 있어야 합니다. 사실 질문, 상업 이미지, 인물 영상은 검증과 권리 확인이 더 많이 듭니다.

채팅에서 검토 가능한 결과 하나를 끝낸 뒤 그림과 영상으로 넓히는 순서가 안전합니다. 화면을 따라가는 버전은 유튜브 실험 기록으로 남겼습니다.

로컬 LLM 사양을 고르는 최종 질문

“몇 B 모델까지 되나?”보다 “내가 만들 결과를 무엇으로 검증하나?”를 먼저 물어야 합니다. LU는 다운로드 전 적합 표시와 모델 교대를 제공했지만, 결과의 사실·권리·용도는 사용자가 판정해야 했습니다.

내 PC에서 가장 먼저 검증할 수 있는 작업은 요약, 그림, 영상, 코딩 중 어느 것인가요? 그 한 가지가 첫 모델을 고르는 기준이 됩니다.

새 글 알림

이런 작업 기록, 계속 받아보실래요?

네이버 블로그 이웃추가하면 새 글이 피드로 바로 떠요. 광고 없이 진짜 이야기만.