LM Studio로 첫 로컬 모델 실행하기

공식 요구사항에 따르면 macOS는 Apple Silicon과 macOS 14 이상이 필요하며 Intel Mac은 지원하지 않습니다. Windows x64에서는 AVX2 지원 CPU가 필요합니다. 공식 권장 메모리는 16GB이며, 8GB에서도 작은 모델과 짧은 문맥으로 시험할 수 있습니다.

저장 공간만 충분하다고 큰 모델이 원활히 실행되는 것은 아닙니다. 운영체제와 다른 앱, 모델 가중치, 대화 문맥 캐시가 메모리를 함께 사용하므로 표시된 모델 크기보다 여유가 필요합니다.

• 운영체제·CPU 지원 여부 확인
• 16GB 이상 메모리 권장
• 모델용 저장 공간 확보
• 회사 장비라면 설치 정책 확인

앱의 Discover 화면에서 모델을 검색하면 같은 모델에도 여러 GGUF 양자화 파일이 보입니다. 공식 안내는 장비가 감당할 수 있다면 4비트 이상을 권장합니다. 처음에는 널리 쓰이는 3B~8B급 instruct 모델의 Q4 변형이 비교하기 쉽습니다.

작성자, 모델 카드, 라이선스를 확인하고 신뢰할 수 있는 배포본을 선택하세요. 이름이 비슷해도 기본 모델과 대화용 instruct 모델의 목적은 다릅니다.

모델을 내려받은 뒤 Chat 화면의 모델 로더에서 선택하면 가중치가 메모리에 적재됩니다. 첫 질문은 정답을 아는 짧은 요청으로 시작하고, 응답이 끝까지 생성되는지 확인합니다.

메모리 부족이나 심한 지연이 생기면 다른 앱을 닫고 컨텍스트 길이를 낮춘 뒤 한 단계 작은 모델을 사용합니다. 조건을 한 번에 하나씩 바꿔야 원인을 알 수 있습니다.

• Discover에서 모델과 양자화 선택
• Download 완료 확인
• Chat에서 모델 Load
• 짧은 한국어 질문 세 개 실행
• 메모리·응답 지연 기록

공식 문서상 이미 내려받은 모델과 문서 대화, 채팅 기록, 로컬 서버는 오프라인에서 사용할 수 있습니다. 반면 새 모델 검색과 다운로드, 런타임 및 앱 업데이트는 네트워크가 필요합니다.

민감한 자료를 넣기 전 네트워크를 끊고 필요한 기능이 그대로 작동하는지 시험하세요. 웹 검색이나 외부 API를 연결했다면 그 기능은 별도 데이터 경로를 가집니다.

Developer 화면에서 서버를 켜거나 CLI의 `lms server start`를 사용하면 기본적으로 localhost:1234에서 API를 제공할 수 있습니다. 개인 PC의 로컬 시험과 다른 기기에 공개하는 것은 보안 수준이 전혀 다릅니다.

공식 문서는 API 토큰 설정을 지원하지만 기본 서버는 인증 없이 동작할 수 있습니다. 주소를 외부 인터페이스로 바꾸기 전 인증·방화벽·접근 범위를 반드시 설계하세요.

# LM Studio CLI에서 로컬 서버 시작
lms server start

# 기본 주소
http://localhost:1234

설치 성공보다 재현 가능한 기준선을 남기는 것이 중요합니다. 앱 버전, 모델 전체 이름, 양자화, 컨텍스트 길이와 시험 질문을 기록하면 이후 모델 비교가 쉬워집니다.

• 모델 세부 이름과 라이선스 기록
• 같은 질문을 세 번 반복
• 오프라인 실행 확인
• 로그·채팅 저장 위치 확인
• 서버 기능은 필요할 때만 활성화