올라마(Ollama) 무엇인가? ChatGPT 대신 쓰는 이유와 설치 사용하기

 

Ollama는 오픈소스 기반의 언어 모델 플랫폼으로,

사용자가 자신의 컴퓨터에서 AI 모델을 직접 실행할 수 있는 솔루션입니다.

 

Ollama를 사용하면 인터넷 연결 없이도

ChatGPT와 유사한 대화형 AI를 사용할 수 있는 게 특징이에요.

이 서비스는 특히 Mac과 Linux 환경에서 잘 지원되며,

다양한 AI 모델을 필요에 따라 다운로드해 사용할 수 있어요

 

그럼 "ChatGPT가 무료인데 왜 Ollama를 사용할까?"라는 질문이 나올 수 있겠죠?

Ollama의 주요 장점은 데이터 프라이버시와 유연한 활용입니다.

 

클라우드 기반의 ChatGPT와 달리,

Ollama는 로컬 컴퓨터에서 작동하므로 대화 내용이 외부 서버로 전송되지 않아요.

예를 들어,

회사 기밀 데이터를 다루거나 개인정보를 보호해야 할 때 적합하죠.

또, Ollama는 다양한 언어 모델을 자유롭게 선택해 테스트할 수 있으니,

개발자나 연구자들에게도 유용합니다

 

추가로,

Ollama는 설정이 간단하고

GUI(그래픽 사용자 인터페이스)나 모바일 앱을 통해 접근할 수 있는 점도 장점이에요.

다만 윈도우 지원이 아직 부족하고,

터미널 사용이 익숙하지 않다면 불편할 수 있습니다

 

그래서 Ollama는

프라이버시가 중요한 사용자나

개발자가 다양한 AI 모델을 직접 활용하고 싶은 경우에 매력적인 선택이 될 수 있습니다.

 

이제 올라마 사용해 봐요.

 

■ 구글에서 올라마 또는 ollama 검색

 

■ ollama 플랫폼(프로그램) 다운로드

중앙 또는 오른쪽 상단의 Download 클릭하세요.

 

 사용하시는 OS에 맞게 선택해주세요.

저는 Windows를 선택하고 [Download for Windows] 클릭해서 다운로드 했습니다.

 

다운로드 받은 OllamaSetup.exe 실행해서 설치하면 

윈도우 하단에 단축 아이콘에 아이콘이 표시됩니다. 설치 완료된거에요.

 

■ ollama 실행하기

명령 프롬프트 또는 PowerShell을 실행해주세요.

 

 

ollama 라고 입력하니깐 사용법이 표시되네요.

Windows PowerShell Copyright (C) Microsoft Corporation. All rights reserved. 새로운 크로스 플랫폼 PowerShell 사용 https://aka.ms/pscore6 PS C:\> ollama Usage:   ollama [flags]   ollama [command] Available Commands:   serve       Start ollama   create      Create a model from a Modelfile   show        Show information for a model   run         Run a model   stop        Stop a running model   pull        Pull a model from a registry   push        Push a model to a registry   list        List models   ps          List running models   cp          Copy a model   rm          Remove a model   help        Help about any command Flags:   -h, --help      help for ollama   -v, --version   Show version information Use "ollama [command] --help" for more information about a command.

 

 

■  모델 찾아보기

다시 ollama 홈페이지로 가서 상단에  Models를 클릭하세요.

모델 종류가 다 보일거에요. 

최신 모델 llama3.2가 보이네요.

 

llama3.2 글자를 클릭하시면 상세 페이지로 이동합니다.

자세한 설명이 영어로 되어 있네요. ^^;;

중간에 실행 명령어를 복사하세요.

 

■ ollama 사용하기

명령 프롬프트나 PowerShell에서 복사한 명령어를 붙여넣기 해서 실행합니다.

PS C:\> ollama run llama3.2 PS C:\> PS C:\> PS C:\> pulling manifest pulling dde5aa3fc5ff...  56% ▕████████████                         ▏ 1.1 GB/2.0 GB   12 MB/s   1m13s

 

모델 파일들을 엄청 다운로드 하고 마지막에 success 보이면 끝입니다.

>>> Send a message (/? for help) 희미하게 보이시죠. ㅋ

ChatGpt처럼 여기에 바로 원하시는 질문을 하시면 됩니다.

PS C:\> pulling manifest pulling dde5aa3fc5ff... 100% ▕███████████████████████████▏ 2.0 GB pulling 966de95ca8a6... 100% ▕█████████████████████████▏ 1.4 KB pulling fcc5a6bec9da... 100% ▕██████████████████████████▏ 7.7 KB pulling a70ff7e570d9... 100% ▕█████████████████████████▏ 6.0 KB pulling 56bb8bd477a5... 100% ▕████████████████████████▏   96 B pulling 34bb5ab01051... 100% ▕███████████████████████▏  561 B verifying sha256 digest writing manifest success >>> Send a message (/? for help)

 

설치된 모델 확인은 ollama list 입니다.

PS D:\> ollama list NAME               ID              SIZE      MODIFIED llama3.2:latest    a80c4f17acd5    2.0 GB    About an hour ago PS D:\> ollama run llama3.2 >>> Send a message (/? for help)

 

 

이제 본격적으로 질문해 봅니다.ㅋ

바로 바로 답을 주네요.

PS D:\> ollama run llama3.2 >>> >>> 안녕하세요? hello! >>> 한국어로 대답해주실수 있나요? नमस्ते! 한국어로 답변을 드릴게요. how can i help you today? >>> 최신 데이타 날짜가 언제인가요?  latest knowledge cutoff은 2023년 12월에 있으므로, tôi의 지식은 2023년 12월에 समापन됩니다. >>> Send a message (/? for help) >>> 올라마 모델 종류와 할수 있는 것들 알려죠.  올람 모델은 일상생활에서 사용할 수 있는 다양한 모델입니다. 아래는 올람 modelo의 종류와 용도로 나누어져 있습니다. 1. **오더 modelo**: 온라인 shopping platform을 통해 소비자가 원하는 제품을 заказ할 수 있는 모델입니다. 2. **루터 모델 (Router)**: 인터넷 트래픽을 분산시키고 관리하는 modeling technology입니다. 3. **마크스 모델 (Markov model)**: 확률적 동적 시스템을 môdel링하고 예측하는 modeling technique입니다. 4. **네트워크 modelo**: 컴퓨터 네트워크의 지속적인 상태를 모니터링하고 제어하는 modeling technology입니다. 5. **이코노미클 modeling**: 경제학적 모델을 사용하여 경제 성장 rate, 투자, consumption, etc.를 예측하는 Modeling technique입니다. 6. **세계 모델 (Global model)**: 세계 economic trend, 지구 온도 change, etc.를 모니터링하고 예측하는 Modeling technology입니다. 이러한 models은 모두 올람 modeling의 기초에 있습니다. olleh modeling은 다양한 분야에서 사용할 수 있는 modeling technique이며, 다양한 industry와 application으로 확장되어 있기 때문에 다양한 용途로 사용될 수있습니다. < >  olleh modeling은 여러 기술을統合하여 사용되는 modeling technique입니다. olleh modeling은 다음과 같은 tecniques를 포 함합니다: * Machine Learning * Deep Learning * Natural Language Processing (NLP) * Computer Vision * Simulation olleh modeling은 이러한 technologies를 사용하여 complex problem들을 모니터링하고 해결하는 Modeling technology입니다 . olleh modeling은 다음을 사용할 수 있습니다: * 예측: olleh modeling은 다양한 industry에서 사용하여 भवoir예측, 성장 rate, consumption, etc.를 예측하는 Modeling technique입니다. * 모니터링: olleh modeling은 다양한 industry에서 사용하여 system의 상태를 모니터링하고 관리하는 Modeling technology입니다. * 제어: olleh modeling은各种 industry에서 사용하여 system의狀态를 제어하는 Modeling technique입니다. olleh modeling은 다음을 사용할 수 있습니다: * 온라인 shopping platform * 컴퓨터 네트워크 * 경제학적 모델 * 세계 economic trend 모니터링 * 지구 온도 change 예측 이러한 models와 technologies는 olleh modeling의 기초에 있으며, 다양한 industry와 application으로 확장되어 있기 때문 에 다양한 용途로 사용될 수 있습니다. >>> Send a message (/? for help)

 

내 PC에 AI 비서를 둔거 같네요. ^^

내가 한 질문이 외부로 유출되지 않으니 맘 편히 사용할수 있어서 기대됩니다.ㅋ