로컬 올인원 AI 시스템 (로컬 멀티모달 AI)

English Translation Post

이 글은 현재까지 PKC AI-ONE의 주요 개발 일지입니다.

이 글은 AI를 활용하여 분석된 글입니다.

PKC AI-ONE 주요 기능 정리

작성자: GPT

---

1. 개요

이 문서는 RTX 2060s (RTX 2060 Super 8GB)에서 PKC AI-ONE 시스템의
핵심 기능만 간단하고 이해하기 쉽게 정리한 포스팅입니다.
복잡한 구조 설명이나 어려운 기술 용어는 제외하고,
실제로 어떤 기능들이 제공되는지에 집중합니다.

---

 

 

2. 주요 기능 요약

PKC AI-ONE은 로컬에서 돌아가는

텍스트·감정 분석·이미지·비전(이미지 이해)·TTS·STT 기능을 가진

통합 AI 시스템입니다.

✔ 1) 텍스트 대화 기능 (LLM)

• LLama-3.2-8B(LLama 기반 GGUF 모델)을 사용해
  자연스러운 한국어 대화 지원
• 대화 스트리밍 출력(SSE)으로 실시간 응답 표시
• 감정 분석과 언어 모델의 파이프라인 연동으로 응답 품질 높임
• 사용자 말투/감정에 맞춰 답변 톤 자동 조절

✔ 2) 이미지 생성 기능 (Stable Diffusion)

• Stable Diffusion 3.5 medium GGUF 모델 기반
• 프롬프트를 넣으면 512×768 사이즈의 이미지를 빠르게 생성
• 이미지 생성 중 진행률 표시
• 한글 프롬프트는 자동 번역 후 생성
• 동일 프롬프트는 캐시로 빠르게 재생성

✔ 3) 이미지 이해(비전 AI)

• Qwen2-VL 모델로 이미지 내용 분석 지원
• 이미지 요청 시 자동으로 모델을 불러와 분석

✔ 4) 파일 업로드 → 분석

• 이미지 또는 텍스트 파일 업로드 시 자동으로 요약/분석
• 작은 thumbnail 표시 기능 포함

✔ 5) 감정 분석 기능

• korean-emotion-kluebert-v2
• 사용자의 입력 문장에서 감정을 자동 분류
  • 예: 기쁨, 슬픔, 분노, 중립 등
• 감정에 따라 AI 답변 분위기 자동 조절

✔ 6) 세션 관리 기능

• 대화 목록 저장
• 세션별 기록 분리
• 새 세션 생성 / 삭제 / 제목 변경 기능 지원
• JSON 형식으로 대화 전체 Export/Import 가능

✔ 7) 브라우저 UI 기능

• 음성 입력(STT)
• 음성 출력(TTS)
• 이미지 생성 버튼
• 웹 검색 버튼
• 대화 버블 자동 정리(오래된 메시지 제거)
• 모바일 환경 자동 대응

✔ 8) 시스템 상태 모니터링

• GPU/CPU/RAM 사용량 실시간 표시
• 모델 로딩 상태 확인 가능

---

3. 시스템이 똑똑하게 작동하는 방식 (간단 버전)

● 1) 필요한 모델만 그때그때 로딩

• 텍스트 대화 중엔 LLM만 유지
• 이미지 생성 시 LLM을 잠시 내려 두고 VRAM 확보
• 작업이 끝나면 LLM 다시 복원

● 2) 이미지 생성은 요청 있을 때만 로딩

• 불필요한 VRAM 사용 방지
• 생성 후에도 캐시를 남겨 빠르게 재사용 가능

● 3) 대화 내용 자동 저장

• 사용자와 AI의 전체 대화를 DB로 관리
• 다음 대화 맥락에 도움
• DB로 이전 대화 내용을 기억하는 AI

---

4. 결론

PKC AI-ONE은 다음 기능을 한 시스템에서 전부 제공합니다.

• 사용자 감정 분석 (korean-emotion-kluebert-v2)
• 대화 (llama-3-Korean-Bllossom-8B-Q5_K_M.gguf)
• 이미지 생성 (sd3.5_medium-Q5_1.gguf)
• 이미지 이해 (Qwen2-VL-2B-Instruct-Q4_K_M.gguf)
• 파일 분석 (시스템)
• 세션 및 기록 관리 (시스템)
• 웹 검색 (시스템)
• 음성 입력/출력 (브라우저 기능)

즉, 로컬 PC에서 실행되는 올인원 AI 도구라고 볼 수 있습니다.

---