๊ณต๋ถ€

Qdrant์™€ LLM์„ ํ™œ์šฉํ•œ ๊ณ ๊ฐ์ง€์› ํ‹ฐ์ผ“ ๊ฒ€์ƒ‰ ์‹œ์Šคํ…œ ๊ตฌ์ถ•๊ธฐ

๋ฐ˜์‘ํ˜•

 

๐Ÿงฉ ์˜ˆ์‹œ ์งˆ๋ฌธ:

"์ ‘์ˆ˜๋ฒˆํ˜ธ 1234๋ฒˆ ๋ฌธ์˜ ๋‚ด์šฉ ์š”์•ฝํ•ด์ค˜"

 

1๏ธโƒฃ ์‚ฌ์šฉ์ž ์ž…๋ ฅ

์ ‘์ˆ˜๋ฒˆํ˜ธ 1234๋ฒˆ ๋ฌธ์˜ ๋‚ด์šฉ ์š”์•ฝํ•ด์ค˜

 

2๏ธโƒฃ Retriever ๋™์ž‘

  • ์šฐ์„  ๋ฒกํ„ฐ ๊ฒ€์ƒ‰(ํ…์ŠคํŠธ ์˜๋ฏธ ๊ธฐ๋ฐ˜) ์‹œ๋„ → "1000000120" ๊ฐ™์€ ์ˆซ์ž๋Š” ์ž˜ ์•ˆ ์žกํž˜.
  • ํ•˜์ง€๋งŒ Qdrant์— ์ €์žฅํ•œ payload ํ•„ํ„ฐ(SR_IDX = 1000000120)๊ฐ€ ์žˆ์œผ๋ฉด ์ง์ ‘ ๊ฑธ๋Ÿฌ๋‚ผ ์ˆ˜ ์žˆ์Œ.
  • ๊ทธ๋ž˜์„œ ๊ฒฐ๊ณผ ํ›„๋ณด๋Š” ์ด๋Ÿฐ ์‹์œผ๋กœ ๋‚˜์˜ด:
[
  {
    "page_content": "์ œ๋ชฉ: ๋กœ๊ทธ์ธ ์˜ค๋ฅ˜ ... ์ ‘์ˆ˜๋ฒˆํ˜ธ:1234 ... ๋ฌธ์˜๋‚ด์šฉ: ๋กœ๊ทธ์ธ ๋ถˆ๊ฐ€ ํ˜„์ƒ ๋ฐœ์ƒ ...",
    "payload": {
      "์ ‘์ˆ˜๋ฒˆํ˜ธ": "1234",
      "์ œ๋ชฉ": "๋กœ๊ทธ์ธ ์˜ค๋ฅ˜",
      "๊ณ ๊ฐ์‚ฌ๋ช…": "๊ณ ๊ฐ์‚ฌ",
      "๋‹ด๋‹น์ž": "ํ™๊ธธ๋™",
      "์ ‘์ˆ˜๋‚ ์งœ": "2025-01-12",
      "๋ฌธ์˜๋‚ด์šฉ": "๋กœ๊ทธ์ธ ์‹œ ๋น„๋ฐ€๋ฒˆํ˜ธ ์˜ค๋ฅ˜๋กœ ์ธํ•œ ์ ‘์† ์‹คํŒจ",
      "summary": "๋กœ๊ทธ์ธ ๋ถˆ๊ฐ€ ์ด์Šˆ, ์‚ฌ์šฉ์ž ์ธ์ฆ ๋ฌธ์ œ",
      "category": "์˜ค๋ฅ˜"
    }
  }
]

3๏ธโƒฃ LLM์— ์ „๋‹ฌ

RetrievalQA ์ฒด์ธ์ด LLM(Gemini)ํ•œํ…Œ ์ด๋ ‡๊ฒŒ ๋„˜๊น€:

๋ฌธ์„œ:
- ์ œ๋ชฉ: ๋กœ๊ทธ์ธ ์˜ค๋ฅ˜
- ์ ‘์ˆ˜๋ฒˆํ˜ธ: 1234
- ๊ณ ๊ฐ์‚ฌ๋ช…: ๊ณ ๊ฐ์‚ฌ
- ๋‹ด๋‹น์ž: ํ™๊ธธ๋™
- ์ ‘์ˆ˜๋‚ ์งœ: 2025-01-12
- ๋ฌธ์˜๋‚ด์šฉ: ๋กœ๊ทธ์ธ ์‹œ ๋น„๋ฐ€๋ฒˆํ˜ธ ์˜ค๋ฅ˜๋กœ ์ธํ•œ ์ ‘์† ์‹คํŒจ
- summary: ๋กœ๊ทธ์ธ ๋ถˆ๊ฐ€ ์ด์Šˆ, ์‚ฌ์šฉ์ž ์ธ์ฆ ๋ฌธ์ œ

์‚ฌ์šฉ์ž ์งˆ๋ฌธ: ์ ‘์ˆ˜๋ฒˆํ˜ธ 1234๋ฒˆ ๋ฌธ์˜ ๋‚ด์šฉ ์š”์•ฝํ•ด์ค˜

 

 

4๏ธโƒฃ LLM ์‘๋‹ต

LLM์ด context ๊ธฐ๋ฐ˜์œผ๋กœ ๋‹ต๋ณ€ ์ƒ์„ฑ:

์ ‘์ˆ˜๋ฒˆํ˜ธ 1234๋ฒˆ์€ ๊ณ ๊ฐ์‚ฌ์˜ ๋กœ๊ทธ์ธ ๋ถˆ๊ฐ€ ์ด์Šˆ๋กœ,
์‚ฌ์šฉ์ž ์ธ์ฆ ๊ณผ์ •์—์„œ ๋น„๋ฐ€๋ฒˆํ˜ธ ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ•œ ์‚ฌ๋ก€์ž…๋‹ˆ๋‹ค.

 

 

๐Ÿงฉ ๋˜ ๋‹ค๋ฅธ ์˜ˆ์‹œ ์งˆ๋ฌธ:

"๊น€์ฒ ์ˆ˜๊ฐ€ ์ฒ˜๋ฆฌํ•œ ๋ฏธ์™„๋ฃŒ ํ‹ฐ์ผ“ ๋ณด์—ฌ์ค˜"

 

1๏ธโƒฃ ์‚ฌ์šฉ์ž ์ž…๋ ฅ

๊น€์ฒ ์ˆ˜๊ฐ€ ์ฒ˜๋ฆฌํ•œ ๋ฏธ์™„๋ฃŒ ํ‹ฐ์ผ“ ๋ณด์—ฌ์ค˜

 

 

2๏ธโƒฃ Retriever ๋™์ž‘

  • Qdrant ๊ฒ€์ƒ‰ ์‹œ → payload ํ•„ํ„ฐ:
    • ์ฒ˜๋ฆฌ์ž="๊น€์ฒ ์ˆ˜"
    • ์ƒํƒœ != ์™„๋ฃŒ
  • ๊ฒฐ๊ณผ ํ›„๋ณด:
[
  {
    "payload": {
      "์ ‘์ˆ˜๋ฒˆํ˜ธ": "123456",
      "์ œ๋ชฉ": "ERP ์ „ํ‘œ ์ €์žฅ ์˜ค๋ฅ˜",
      "์ƒํƒœ": "์ง„ํ–‰์ค‘",
      "์ฒ˜๋ฆฌ์ž": "๊น€์ฒ ์ˆ˜",
      "summary": "์ „ํ‘œ ์ €์žฅ ์‹œ DB ํŠธ๋žœ์žญ์…˜ ์˜ค๋ฅ˜ ๋ฐœ์ƒ",
      "category": "ERP"
    }
  },
  {
    "payload": {
      "์ ‘์ˆ˜๋ฒˆํ˜ธ": "123457",
      "์ œ๋ชฉ": "์žฌ๋ฌด ๋ณด๊ณ ์„œ ์ถœ๋ ฅ ์ง€์—ฐ",
      "์ƒํƒœ": "๋Œ€๊ธฐ",
      "์ฒ˜๋ฆฌ์ž": "๊น€์ฒ ์ˆ˜",
      "summary": "๋ณด๊ณ ์„œ ์ƒ์„ฑ ์‹œ ์„œ๋ฒ„ ์‘๋‹ต ์ง€์—ฐ",
      "category": "์žฌ๋ฌด"
    }
  }
]

 

 

3๏ธโƒฃ LLM์— ์ „๋‹ฌ

๋ฌธ์„œ:
- 123456: ERP ์ „ํ‘œ ์ €์žฅ ์˜ค๋ฅ˜ (์ง„ํ–‰์ค‘)
- 123457: ์žฌ๋ฌด ๋ณด๊ณ ์„œ ์ถœ๋ ฅ ์ง€์—ฐ (๋Œ€๊ธฐ)

์‚ฌ์šฉ์ž ์งˆ๋ฌธ: ๊น€์ฒ ์ˆ˜๊ฐ€ ์ฒ˜๋ฆฌํ•œ ๋ฏธ์™„๋ฃŒ ํ‹ฐ์ผ“ ๋ณด์—ฌ์ค˜

 

4๏ธโƒฃ LLM ์‘๋‹ต

๊น€์ฒ ์ˆ˜๊ฐ€ ์ฒ˜๋ฆฌ ์ค‘์ธ ๋ฏธ์™„๋ฃŒ ํ‹ฐ์ผ“์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค:

1. ์ ‘์ˆ˜๋ฒˆํ˜ธ 123456 - ERP ์ „ํ‘œ ์ €์žฅ ์˜ค๋ฅ˜ (์ง„ํ–‰์ค‘)
2. ์ ‘์ˆ˜๋ฒˆํ˜ธ 123457 - ์žฌ๋ฌด ๋ณด๊ณ ์„œ ์ถœ๋ ฅ ์ง€์—ฐ (๋Œ€๊ธฐ)

 

์ฆ‰, ์งˆ๋ฌธ → Qdrant์—์„œ ํ›„๋ณด ๊ฒ€์ƒ‰ (payload+๋ฒกํ„ฐ) → LLMํ•œํ…Œ context๋กœ ์ฃผ์ž… → ๋‹ต๋ณ€ ์ƒ์„ฑ.

๋ฐ˜์‘ํ˜•

Categories