Ollama 모델 VRAM 계산 — 내 노트북으로 재 보니 계산이 2배 틀렸다
Ollama 모델이 필요한 메모리(VRAM)는 파라미터 수와 압축 정도로 계산합니다. 내장그래픽 노트북에서 겪은 메모리 부족 오류와, 속도 추정이 실측(초당 7토큰)보다 2배 낙관적이었던 경험을 바탕으로 계산법과 직접 재는 법을 정리했습니다.
Ollama 모델이 필요한 메모리(VRAM)는 파라미터 수와 압축 정도로 계산합니다. 내장그래픽 노트북에서 겪은 메모리 부족 오류와, 속도 추정이 실측(초당 7토큰)보다 2배 낙관적이었던 경험을 바탕으로 계산법과 직접 재는 법을 정리했습니다.
예산을 넘으면 유료 AI 대신 무료 로컬 모델로 넘어가는 작은 파이썬 라이브러리, LLM 서킷 브레이커. 직접 써서 찾은 버그(113자에서 끊기던 답), 43회 호출에 0.06달러였던 실제 장부, 그리고 만든 것을 알리지 못했던 석 달 이야기.
AI 코딩 도구로 쌓인 자동화 34개를 한 번에 점검했습니다. ‘성공’인데 빈 파일만 만드는 작업, 3주째 재료 없이 도는 초록불, 동시 실행으로 날아간 기록을 찾았고, 가장 큰 발견은 아무도 읽지 않는 결과물이었습니다.
셀카를 여권·증명사진 규격으로 잘라 주는 웹앱을 공개하면서 외교부 규격을 다시 읽었습니다. 정수리는 머리카락을 빼고 재야 하고, 보정·AI 편집도 금지라는 점을 반영해 앱을 고쳤습니다. 셀카 여권사진 체크리스트도 정리했습니다.
내 PC 사양으로 어떤 로컬 AI 모델이 돌아가는지 추정하는 무료 계산기를 직접 써 봤습니다. 정보는 많았지만 모델 공식 페이지로 바로 갈 수 없는 점이 아쉬워, 모델 이름을 누르면 공식 페이지가 열리도록 v3.1로 고쳤습니다.
A4 한 장 안내문 AI 도구로 어린이집 준비물 안내문을 만들어 봤습니다. 처음엔 공문 같은 말투가 나왔고, ‘선생님이 쓴 것처럼’ 다시 요청하자 인쇄해서 보낼 만한 가정통신문이 됐습니다. 좋았던 점과 아쉬웠던 점을 정리했습니다.
클로드 아티팩트 사용법이 궁금하다면? 대화창 옆 패널에서 코드·문서·UI를 실시간으로 만들고 수정하는 구조를 처음부터 쉽게 풀어드립니다. 직장인 실전 활용 팁 포함.
막연한 예측을 바이너리 Pass/Fail로 채점하는 도구를 직접 만든 경험을 공유합니다. 왜 주관적 예측이 쌓일수록 판단력이 흐려지는지, 어떻게 수치화해 해결했는지를 설명합니다.
클로드 무료와 Pro 요금제의 실제 차이를 2026년 10월 공식 요금제 기준으로 정리했습니다. 사용량·모델·기능, 그리고 유료가 필요한지 판단하는 3가지 기준.
금리가 오르거나 내릴 때 내 대출 상환액은 실제로 얼마나 달라질까? 파이썬으로 직접 만든 대출 상환 시뮬레이터의 계산 원리와 활용법을 구체적으로 풀어봅니다.