Ollama — 요금 0원, 손님 정보는 밖으로 안 나가는 AI

HOW I USE IT

손님 리뷰나 계약서를 외부 AI 서비스 창에 붙여넣기 꺼려지신 적 있으실 겁니다. 상대방 정보도 금액도 들어 있으니까요. Ollama는 그 문제를 구조로 해결합니다 — AI 모델을 내 컴퓨터에 내려받아 실행하기 때문에, 요청이 localhost(내 컴퓨터)로 갑니다. 외부 서버로 나가지 않아요. 그리고 쓴 만큼 나가는 요금이 없습니다. 별 17만 개가 넘고 MIT 라이선스에 지금도 매일 커밋이 올라오는, 이 분야에서 가장 큰 프로젝트입니다.

영상에서는 제가 직접 돌린 결과 세 가지를 보여드립니다. ① 카페 손님의 '웨이팅 30분' 불만 리뷰에 사과 답글 달기 ② 반찬가게 신메뉴 홍보 문자 40자 — 1.2초, 0원 ③ 임대차 계약서의 원상회복 조항을 사장님이 알아듣게 3줄로 요약 — 3.3초, 0원. 특히 세 번째가 이 도구의 진가입니다. 계약서를 밖에 안 올리고도 요약할 수 있으니까요. 다만 요약 결과는 참고용이고, 중요한 계약은 반드시 사람이 다시 읽으셔야 합니다.

설치는 위의 명령 두 줄이면 됩니다(맥 기준, 윈도·리눅스는 링크의 설치 파일). 처음이라면 가벼운 모델부터 받으시고, 한국어를 많이 쓰신다면 qwen 계열이 무난합니다. 안 맞으면 지우고 다른 걸 받으면 되니 부담 없습니다. 솔직한 단점도 알고 시작하세요 — 컴퓨터 메모리가 넉넉해야 큰 모델이 돌고, 품질은 최신 상용 모델보다 한 단계 아래이며, 첫 설치 때 모델을 몇 GB 받아야 합니다. 그래서 '유료 AI를 끊는 도구'가 아니라 '굳이 밖에 안 보내도 되는 일을 안으로 옮기는 도구'로 보시는 게 맞습니다. localhost:11434로 호출하는 API가 있어서 엑셀·자동화 도구·내 웹사이트에 붙일 수도 있습니다.