지난 몇 년 동안 생성 AI는 우리가 매일 추진하는 주류 디지털 제품으로 발전했습니다. 이메일 클라이언트부터 편집 도구까지, 다양한 도구에 깊이 뿌리박혀 있습니다. 웹 브라우저도 예외는 아닙니다. 그러나 AI가 도입되면서 개인정보가 악용되는 유령이 등장합니다. 가장 취약한 ChatGPT 대화가 OpenAI 서버를 통과하기를 원합니까, 아니면 내 파일이 몇 달 동안 Microsoft의 Copilot 서버에 있기를 원합니까? 대부분의 사용자에게 대답은 ‘아니요’입니다. 그러나 동시에, 특히 제공되는 편리함으로 인해 브라우저에서 AI를 피하는 것이 점점 더 어려워지고 있습니다.
이것이 바로 로컬 AI 브라우저가 등장하는 곳입니다. 일반 웹 브라우저라고 생각하면 되지만, AI 도우미가 쿼리를 클라우드 서버로 보내는 대신 전적으로 사용자 장치에서 실행되는 브라우저입니다. 대체로 이는 Pixel 10 Pro에서 Gemini Nano와 상호 작용하는 것과 같습니다. Google의 AI는 인터넷 연결 없이도 몇 가지 집안일을 처리할 수 있습니다. 그러나 로컬 브라우저에서 온디바이스 AI를 사용하는 것은 간단한 과정이 아닙니다. 하지만 더 중요한 것은 AI 모델을 기기에서 로컬로 실행할 수 있는 브라우저를 선택해야 한다는 것입니다. 커뮤니티 피드백에 따르면 가장 활발한 로컬 AI 브라우저는 Puma인 것으로 보입니다.
Android 및 iOS에서 사용할 수 있는 이 개인정보 보호 중심 브라우저를 사용하면 사용자는 Google의 강점에서 벗어나 검색 엔진으로 Ecosia와 DuckDuckGo 중에서 선택할 수 있습니다. 더 중요한 것은 Llama 3.2, Ministral, Gemma 및 Qwen 시리즈 AI 모델의 로컬 인스턴스를 장치에서 완전히 실행할 수 있다는 것입니다. 따라서 일반적인 지식 쿼리이든 스타일 변경 및 요약과 같은 당면 작업이든 관계없이 전화기에서 상호 작용이 발생하지 않습니다.
설정
Puma 브라우저를 처음 설치하면 이미 Meta의 오픈 소스 Llama 3.2 모델이 설정되어 실행 중입니다. 하지만 다른 AI 모델을 다운로드하려면 다음 단계를 따르세요.
- 브라우저 홈페이지에서 하단의 Puma 아이콘을 탭하세요.
- 팝업되는 슬라이더 메뉴에서 로컬 LLM 채팅 옵션을 탭하세요.
- 채팅 페이지의 작곡가 필드에서 “Llama 3.2 1B” 버튼을 클릭하세요.
- 이를 탭하면 사용 가능한 로컬 AI 모델 목록이 열립니다. 최초 설치 이후에는 Llama 3.2 1B Instruct만 사용 가능합니다. “추가 모델” 옵션을 선택하세요.
- 다음 페이지에는 Google Gemma, Mistral, DeepSeek, Qwen, Microsoft Phi 등을 포함한 전체 모델 목록이 표시됩니다. 원하는 AI 모델에 해당하는 “Get” 버튼을 선택하면 다운로드되어 설치됩니다.
대부분의 모델은 크기가 1GB가 넘으므로 휴대폰에 다운로드하고 설치하는 데 시간이 걸립니다. 물론 모험을 더 많이 할수록 더 많은 저장 공간을 차지하게 됩니다. AI 모델이 구성되면 로컬 LLM 채팅 옵션으로 돌아가서 원하는 모델을 선택하고 대화를 시작할 수 있습니다.
이제 더 큰 질문은 간단히 ChatGPT 또는 Gemini 앱을 사용할 수 있는데 왜 로컬 AI 모델을 원하겠습니까? 아니면 Android 휴대폰의 기본 도우미로 Gemini를 소환하거나 iPhone에서 ChatGPT(Siri 및 Apple Intelligence를 통해)를 소환하여 이를 완전히 피하시겠습니까? 음, 프라이버시가 확실한 답입니다. 그러나 인터넷에 연결되어 있지 않거나 집중적인 작업을 위해 오프라인 모드를 활성화한 경우도 있습니다. 이러한 시나리오의 경우 이러한 로컬 AI 모델은 연결 요구 사항 없이 작업을 처리할 수 있으므로 유용합니다. 유일한 주의 사항은 이미지 생성과 같은 멋진 트릭을 로컬에서 수행할 수 없다는 것입니다. 또한 Google AI Edge Gallery 앱과 달리 Puma 브라우저에서는 CPU 및 GPU 전반에 걸쳐 AI 워크로드를 맞춤설정하거나 묘목 및 온도와 같은 측면을 조정할 수 없습니다.
