ํด๋ผ์šฐ๋“œ GPU
ยท
๊ฒฝ์ง„๋Œ€ํšŒ
https://www.runpod.io/ RunPod - The Cloud Built for AIDevelop, train, and scale AI models in one cloud. Spin up on-demand GPUs with GPU Cloud, scale ML inference with Serverless.www.runpod.iohttps://vast.ai/ Rent GPUs | Vast.aiReduce your cloud compute costs by 3-5X with the best cloud GPU rentals. Vast.ai's simple search interface allows fair comparison of GPU rentals from all providers.vast.ai..
Quantization & Prompt Engineering
ยท
NLP(์ž์—ฐ์–ด์ฒ˜๋ฆฌ)
1. bitsandbytes https://huggingface.co/docs/transformers/ko/quantization/bitsandbytes bitsandbytesbitsandbytes๋Š” ๋ชจ๋ธ์„ 8๋น„ํŠธ ๋ฐ 4๋น„ํŠธ๋กœ ์–‘์žํ™”ํ•˜๋Š” ๊ฐ€์žฅ ์‰ฌ์šด ๋ฐฉ๋ฒ•์ž…๋‹ˆ๋‹ค. 8๋น„ํŠธ ์–‘์žํ™”๋Š” fp16์˜ ์ด์ƒ์น˜์™€ int8์˜ ๋น„์ด์ƒ์น˜๋ฅผ ๊ณฑํ•œ ํ›„, ๋น„์ด์ƒ์น˜ ๊ฐ’์„ fp16์œผ๋กœ ๋‹ค์‹œ ๋ณ€ํ™˜ํ•˜๊ณ , ์ด๋“ค์„ ํ•ฉ์‚ฐํ•˜์—ฌ fp16์œผhuggingface.co bitsandbytes๋Š” ๋ชจ๋ธ์„ 8๋น„ํŠธ ๋ฐ 4๋น„ํŠธ๋กœ ์–‘์žํ™”ํ•˜๋Š” ๊ฐ€์žฅ ์‰ฌ์šด ๋ฐฉ๋ฒ•์ด๋‹ค. 4๋น„ํŠธ ์–‘์žํ™”์˜ ๊ฒฝ์šฐ, QLoRA์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•˜์—ฌ ์–‘์žํ™”๋œ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ๋ฏธ์„ธ์กฐ์ •ํ•˜๋Š”๋ฐ ํ”ํžˆ ์‚ฌ์šฉ๋œ๋‹ค. config = BitsAndBytesConfig( load_in_4bit = True, ..
[ํŒŒ์ด๋„ ํ”„๋กœ์ ํŠธ] ํ˜ธํ…” ์ƒํ’ˆ ์ถ”์ฒœ ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ [2]
ยท
์‚ฌ์ด๋“œ ํ”„๋กœ์ ํŠธ
1. ๊ด€๋ จ ์ƒํ’ˆ ์ถ”์ฒœ ๊ฐœ๋ฐœ์ƒํ™ฉํ˜„์žฌ ๊ณ ๊ฐ์ด ์„ ํƒํ•œ ์ƒํ’ˆ์„ ์ฃผ๋ฌธํ•˜๋Š” ๊ณผ์ • ์ค‘ ์ถ”๊ฐ€์ ์ธ ์ƒํ’ˆ์ด ๋…ธ์ถœ๋˜์ง€ ์•Š๊ณ  ์žˆ์Œ.๋ชฉํ‘œ๊ณ ๊ฐ์ด ์„ ํƒํ•œ ์ƒํ’ˆ๊ณผ ํ•จ๊ป˜ ๊ตฌ๋งค๋œ ์ƒํ’ˆ๋“ค์„ ์ž๋™์œผ๋กœ ์ถ”์ฒœํ•ด์คŒ์œผ๋กœ์จ ์ถ”๊ฐ€ ๊ตฌ๋งค๋ฅผ ์œ ๋„ํ•˜์—ฌ ํ‰๊ท  ์ฃผ๋ฌธ ๊ธˆ์•ก์„ ์ฆ๊ฐ€์‹œํ‚ค๋Š” ๊ฒƒ์„ ๋ชฉํ‘œ๋กœ ํ•จ.์•ก์…˜ Itme2Vec ๋ฐฉ๋ฒ•์„ ํ™œ์šฉํ•˜์—ฌ ํ•จ๊ป˜ ๊ตฌ๋งค๋œ ์ƒํ’ˆ ์ถ”์ฒœ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง ( ์ƒํ’ˆ๋ช…์„ ํ†ต์ผ )Item2Vec ๋ชจ๋ธ๋ง ๋ฐ ํ•™์Šต 1.1 ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ๋ฐ์ดํ„ฐ ์žฌ๊ตฌ์„ฑ๋ฌธ์ œContents ์ปฌ๋Ÿผ์ด ๋”•์…”๋„ˆ๋ฆฌ ํ˜•ํƒœ๋กœ ์กด์žฌํ•˜์—ฌ ๋ถ„์„์— ๋น„ํšจ์œจ์ Contents ์ปฌ๋Ÿผ์€ ์ƒํ’ˆ ์ฃผ๋ฌธ์— ๋Œ€ํ•œ ์„ธ๋ถ€์ ์ธ ๋‚ด์šฉ์„ ๋‹ด๊ณ  ์žˆ์Œ์žฌ๊ตฌ์„ฑ ์ ˆ์ฐจJSON ๋ฌธ์ž์—ด์„ ๋”•์…”๋„ˆ๋ฆฌ๋กœ ๋ณ€ํ™˜๋ณต์ˆ˜์˜ ๋”•์…”๋„ˆ๋ฆฌ๊ฐ€ ์กด์žฌํ•˜๋Š” ๊ฒฝ์šฐ โ†’ ๋ฆฌ์ŠคํŠธ๋กœ ๋ณ€ํ™˜ ํ›„ ๊ฐ ๋”•์…”๋„ˆ๋ฆฌ๋ฅผ ํ•˜๋‚˜์˜ ํ–‰์œผ๋กœ ๋ณ€ํ™˜๋”•์…”๋„ˆ๋ฆฌ์˜ ๊ฐ ์š”์†Œ๋ฅผ ์—ด(Column)๋กœ ๋ณ€ํ™˜์ฃผ๋ฌธ..
[ํŒŒ์ด๋„ ํ”„๋กœ์ ํŠธ] ํ˜ธํ…” ์ƒํ’ˆ ์ถ”์ฒœ ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ [1]
ยท
์‚ฌ์ด๋“œ ํ”„๋กœ์ ํŠธ
2024๋…„ 10์›”๋ถ€ํ„ฐ 11์›”๊นŒ์ง€ ์ด 6์ฃผ๋™์•ˆ ์ง„ํ–‰ํ–ˆ๋˜ ํ”„๋กœ์ ํŠธ๋ฅผ ์ด์ œ ์ •๋ฆฌํ•˜๊ณ ์ž ํ•œ๋‹ค. โญ 1. ์–ด๋–ค ํ”„๋กœ์ ํŠธ์˜€๋Š”๊ฐ€?๋ถ€ํŠธ์บ ํ”„์—์„œ ์ง„ํ–‰ํ–ˆ๋˜ ํŒŒ์ด๋„ ํ”„๋กœ์ ํŠธ๋กœ, ์ž์„ธํžˆ ์–˜๊ธฐํ•˜์ž๋ฉด BI DashBoard ๊ณผ ์ถ”์ฒœ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ์ด์˜€๋‹ค.  ์‚ฌ์‹ค ์ถ”์ฒœ์‹œ์Šคํ…œ? ์ฒ˜์Œ ์ ‘ํ–ˆ๋‹ค, ํ•ด๋‹น ์ฃผ์ œ์— ๋Œ€ํ•ด์„œ ์•„๋Š” ์ด๋ก ์ด๋ผ๊ณ ๋Š” Contents-Based ์ถ”์ฒœ๊ณผ Collaborative-Based  ์ถ”์ฒœ์ •๋„.. ๊ทธ๋ฆฌ๊ณ  ์š”์ฆ˜์€ Graph ๊ธฐ๋ฐ˜์˜ ์ถ”์ฒœ์„ ์‚ฌ์šฉํ•œ๋‹ค๋Š” ์ •๋„๊ฐ€ ๋‹ค์˜€๋‹ค.  ๊ทธ๋ž˜์„œ ๋ถ€ํŠธ์บ ํ”„์—์„œ ๋”ฐ๋กœ ์ œ๊ณตํ•ด์ฃผ๋Š” ๊ฐ•์˜๋“ค์„ ๋“ค์œผ๋ฉด์„œ ์ง€๊ธˆ ์ƒํ™ฉ์—์„œ ๋ฌด์—‡์„ ๊ณ ๋ฏผํ•˜๊ณ  ์–ด๋–ค ๋ชจ๋ธ์„ ๊ณ ๋ คํ•ด์•ผํ•˜๋Š”์ง€ ๊ณต๋ถ€ํ–ˆ๋‹ค.  ์–ด๋Š์ •๋„ ๊ฐœ๋ฐœํ™˜๊ฒฝ๊ณผ ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ ํŒŒ์•…์€ ๋๋‚œ ์ƒํƒœ์—์„œ ๋ฐ”๋กœ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ–ˆ๋‹ค.  2. ์–ด๋–ค ์—ญํ• ์„ ๋งก์•˜๋Š”๊ฐ€? ์ธ์›์ด ์ด 5๋ช…์ธ ํŒ€์—์„œ B..