PKC AI Project

AI๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๋ณด๊ธ‰ํ˜• ๊ทธ๋ž˜ํ”ฝ ์นด๋“œ์—์„œ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ์ฑ—๋ด‡ ๋งŒ๋“ค์–ด ๋ณด๊ธฐ

AI MARK Benchmark

RTX 2060์œผ๋กœ Bllossom 8B ํ…Œ์ŠคํŠธ - PKC ๋ฒค์น˜๋งˆํฌ ๊ฒฐ๊ณผ

AI Orchestrator 2025. 9. 25. 09:33
๐Ÿ–ฅ๏ธ ํ…Œ์ŠคํŠธ ํ™˜๊ฒฝ: RTX 2060 SUPER 8GB, Intel i5-9600K, 32GB RAM
๐Ÿ“… ํ…Œ์ŠคํŠธ ์ผ์‹œ: 2025๋…„ 9์›” 18์ผ 03:31
โšก CUDA: 12.1, cuBLAS ํ™œ์„ฑํ™”
ํ…Œ์ŠคํŠธ ํ”„๋กฌํ”„ํŠธ๋ชจ๋ธ์ƒํƒœ๋กœ๋“œ์‹œ๊ฐ„(s)VRAM(GB)์†๋„(TPS)ํŒŒ์›Œ(W)์˜จ๋„(โ„ƒ)CPU(%)
์˜ค๋Š˜ ํ•˜๋ฃจ ์ •๋ง ๋ฉ‹์ง„ ์ผ์ด ๊ฐ€๋“ํ–ˆ์–ด, ํ•˜๋Š˜์„ ๋‚˜๋Š” ๊ธฐ๋ถ„์ด์•ผ! Bllossom 8B โœ… ์„ฑ๊ณต 4.63 6.46 47.6 174 68 28.8
KlueBERT โœ… ์„ฑ๊ณต 1.22 1.40 - 35 51 28.8
ํ”„๋กœ์ ํŠธ ๋งˆ๊ฐ์ผ์€ ๋‹ค๊ฐ€์˜ค๋Š”๋ฐ, ์•„๋ฌด๊ฒƒ๋„ ์†์— ์žกํžˆ์งˆ ์•Š์•„์„œ ๋„ˆ๋ฌด ๋ถˆ์•ˆํ•ด. Bllossom 8B โœ… ์„ฑ๊ณต 0.0 6.44 47.3 170 69 30.8
KlueBERT โœ… ์„ฑ๊ณต 0.0 6.44 - 170 69 66.7
AI ๊ธฐ์ˆ ์˜ ๋ฐœ์ „์ด ๊ธฐ๋Œ€๋˜๋ฉด์„œ๋„, ํ•œํŽธ์œผ๋กœ๋Š” ์ผ์ž๋ฆฌ๊ฐ€ ์ค„์–ด๋“ค๊นŒ ๋ด ๊ฑฑ์ •๋ผ. Bllossom 8B โœ… ์„ฑ๊ณต 0.0 6.46 47.1 176 70 31.2
KlueBERT โœ… ์„ฑ๊ณต 0.0 6.46 - 176 70 25.0

๐Ÿ“Š ์„ฑ๋Šฅ ๋ถ„์„

  • Bllossom 8B: ํ‰๊ท  47.3 TPS์˜ ์•ˆ์ •์ ์ธ ์„ฑ๋Šฅ
  • VRAM ์‚ฌ์šฉ๋Ÿ‰: 6.4GB (8GB ์ค‘ 80% ํ™œ์šฉ)
  • ์˜จ๋„ ๊ด€๋ฆฌ: 68-70โ„ƒ ์•ˆ์ •์  ์œ ์ง€
  • ์บ์‹ฑ ํšจ๊ณผ: ๋‘ ๋ฒˆ์งธ ์ถ”๋ก ๋ถ€ํ„ฐ ๋กœ๋“œ ์‹œ๊ฐ„ 0์ดˆ
  • GPU ํ™œ์šฉ๋ฅ : 174W ํ‰๊ท  ํŒŒ์›Œ ์†Œ๋ชจ