ollama: 로컬 환경에서 대규모 언어 모델(LLM)을 쉽게 실행할 수 있게 해주는 오픈소스 도구

ollama

로컬 환경에서 대규모 언어 모델(LLM)을 쉽게 실행할 수 있게 해주는 오픈소스 도구

Ollama는 로컬에서 LLM 모델이 실행되기 때문에 데이터가 서버로 전송되지 않으며 데이터가 유출될 일이 없다.

로컬에서만 동작하기 때문에 비용이 발생하지 않는다. 무료.

네크워크 연결이 필요하지 않다

https://ollama.com/download

Download Ollama on macOS

 

 

 

 

 

설치

 

 

완료

 

 

 

채팅을 시작. 모델을 알아서 다운받는다 .

Gemma 4, qewn3.와 같이 cloude표시가 없는 모델은 

인터넷 연결 없이도 사용 가능. 개인 정보 보호 우수하다.

 

 

 

현재 노트북의 영향을 많이 받으며, 다소 느리다. 

클라우드 버전을 사용하기 위해서는 회원가입과정이 필요하다.