[2026-01-02] Preventing Artificially Inflated SMS Attacks through Large-Scale Traffic Inspection

๐Ÿฆฅ ๋ณธ๋ฌธ

AIT

๋งŽ์€ ์ˆ˜ ๋ด‡ ๊ณ„์ •์œผ๋กœ SMS ์ธ์ฆ ์š”์ฒญ์œผ๋กœ ๋Œ€๊ทœ๋ชจ ํ”ผํฌ ํŠธ๋ž˜ํ”ฝ์„ ๋ฐœ์ƒ ์‹œํ‚ด. ์›น ๋ธŒ๋ผ์šฐ์ €์™€ ๋ชจ๋ฐ”์ผ ์žฅ์น˜์— ์„ค์น˜๋œ ๋„ค์ดํ‹ฐ๋ธŒ ์•ฑ์„ ์‚ฌ์šฉํ•˜์—ฌ ๊ณต๊ฒฉ

  • ๊ธฐ์กด์˜ ์†๋„ ์ œํ•œ ์ •์ฑ…์˜ ํ•œ๊ณ„ : ๋ช‡ ์ฐจ๋ก€์˜ ์‹คํŒจ ํ›„ ๊ณ„์ • ์ž ๊ทธ๋Š” ์ •์ฑ…์€ ๋ถ„์‚ฐ๋œ ๊ณต๊ฒฉ์— ์˜ํ•ด ํšŒํ”ผ
  • ๋ถ„์‚ฐ๋œ ๊ณต๊ฒฉ ์ „๋žต
    1. ์ผํšŒ์šฉ ์ด๋ฉ”์ผ ์„œ๋น„์Šค๋ฅผ ํ†ตํ•ด ๋Œ€๋Ÿ‰์˜ ์ด๋ฉ”์ผ ์ƒ์„ฑ ํ›„ ๋ด‡์— ๋“ฑ๋ก.
    2. ๊ณตํ†ต๋œ ์ ‘๋‘์‚ฌ ๊ฐ’์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๊ฐ€์งœ ์ „ํ™”๋ฒˆํ˜ธ์™€ IMEI๋ฅผ ์ƒ์„ฑ.
      • IMEI : ๊ตญ์ œ ๋ชจ๋ฐ”์ผ ๊ธฐ๊ธฐ ์‹๋ณ„ ์ฝ”๋“œ

Architecture

image.png

๋™์ž‘ ํ๋ฆ„

  1. ์ธ์ฆ ๋‹จ๊ณ„ : ์ธ์ฆ ์š”์ฒญ์„ ์ธ์ฆ ์„œ๋ฒ„์— ๋ณด๋ƒ„
  2. ํ”ผ์ฒ˜ ๊ณ„์‚ฐ ๋‹จ๊ณ„
    • ํ”ผ์ฒ˜ ์ถ”์ถœ๊ธฐ๋ฅผ ์ž‘๋™ ์‹œ์ผœ ์„ธ ๊ฐ€์ง€ ์ˆ˜์ค€์˜ feature set์„ ๊ณ„์‚ฐ
      1. ์‚ฌ์šฉ์ž ์ •๋ณด DB : ์‚ฌ์šฉ์ž ๊ณ„์ • ๋ฐ ์žฅ์น˜ ๋ณ„ ์ •๋ณด ์ˆ˜์ง‘
        • ex) SMS ์š”์ฒญ timestamp๊ณผ Email-domain ์ตœ์ดˆ ๋“ฑ์žฅ timestamp ์‚ฌ์ด์˜ ์‹œ๊ฐ„ ์ฐจ ๊ฐ™์€ ๋‹จ์ผ ์ด๋ฒคํŠธ feature๋ฅผ ๊ณ„์‚ฐ
      2. SMS log DB : ๋‹ค์ค‘ ์ด๋ฒคํŠธ feature์™€ ๊ตญ๊ฐ€ ์ „์ฒด feature๋ฅผ ๊ณ„์‚ฐํ•˜๋Š” ๋ฐ์ดํ„ฐ
        • ex) 24์‹œ๊ฐ„ ๋™์•ˆ์˜ ์ „ํ™”๋ฒˆํ˜ธ ์ ‘๋‘์‚ฌ ํŒจํ„ด ์žฌ๋ฐœ ํšŸ์ˆ˜๋ฅผ ์„ธ๋Š” ๊ตญ๊ฐ€ ์ „์ฒด feature๋ฅผ SMS log DB๋ฅผ ํ†ตํ•ด ๊ณ„์‚ฐ
        • ์‹ค์‹œ๊ฐ„ ๊ฒ€์‚ฌ๋ฅผ ์œ„ํ•ด timestamp๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ 24์‹œ๊ฐ„ ํŠธ๋ž˜ํ”ฝ์„ ์„ ํƒ
      3. Lookup table : ๊ณ„์‚ฐ ํšจ์œจ์„ฑ์„ ๋†’์ด๊ธฐ ์œ„ํ•ด ๋„ค์ดํ‹ฐ๋ธŒ ์žฅ์น˜/ํด๋ผ์ด์–ธํŠธ ์ถœ์‹œ์ผ ๊ฐ™์€ ์žฌ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ์ •์  ์ •๋ณด ์ €์žฅ.
        • ์ถ”๊ฐ€์ ์ธ Lookup table : ๋‹ค์–‘ํ•œ OS, ๋„ค์ดํ‹ฐ๋ธŒ ํด๋ผ์ด์–ธํŠธ, ์žฅ์น˜ ๋ชจ๋ธ ๋ฒ„์ „์˜ ์ตœ์ดˆ ์ถœ์‹œ์ผ ๋“ฑ๋“ฑ
  3. ๊ณต๊ฒฉ ์ถ”๋ก  ๋‹จ๊ณ„
    1. feature ๋ฒกํ„ฐ ์ „์†ก : feature ๊ณ„์‚ฐ ํ›„ feature ๋ฒกํ„ฐ๋ฅผ AIT Attack Detector๋กœ ๋ฆฌํ„ด
    2. ์ถ”๋ก  ์ ์ˆ˜ ๊ณ„์‚ฐ : ML ์„œ๋ฒ„์— ์ „์†ก ํ›„ ์ ์ˆ˜๋ฅผ ๊ณ„์‚ฐ ํ•˜์—ฌ AIT Attack Detector๋กœ ๋ฆฌํ„ด
      • 1์— ๊ฐ€๊นŒ์šฐ๋ฉด AIT, 0์— ๊ฐ€๊นŒ์šฐ๋ฉด ์ •์ƒ
    3. ์ธ์ฆ ๊ฒฐ์ • : ์ž„๊ณ„๊ฐ’๊ณผ ๋น„๊ตํ•˜์—ฌ ๋‚ฎ์œผ๋ฉด SMS OTP ๋ฐœ์†ก์„ ์ง„ํ–‰
    4. ๋กœ๊ทธ ๊ธฐ๋ก : SMS ์š”์ฒญ์— ๋Œ€ํ•œ ์ •๋ณด๋Š” SMS log DB์— ๊ธฐ๋ก

๋ชจ๋ธ ํ•™์Šต ๋‹จ๊ณ„

  • ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง
  • ํ•™์Šต/๊ฒ€์ฆ/ํ…Œ์ŠคํŠธ๋กœ ๋ถ„๋ฅ˜
  • ๋ถ„๋ฅ˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜ : GBTs(๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ• ๊ธฐ๋ฐ˜ ๋ถ€์ŠคํŒ… ํŠธ๋ฆฌ)
  • ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ
    • ์›น ํŠธ๋ž˜ํ”ฝ์˜ ๊ฒฝ์šฐ : ์ตœ๋Œ€ ๊นŠ์ด 10๊ณผ ํŠธ๋ฆฌ ๊ฐœ์ˆ˜ 200
    • ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์˜ ๊ฒฝ์šฐ : ์ตœ๋Œ€ ๊นŠ์ด 5์™€ ํŠธ๋ฆฌ ๊ฐœ์ˆ˜ 200

Dataset

AIT ๊ณต๊ฒฉ์ด ๋ฐœ์ƒํ•œ ์ƒ์œ„ 10๊ฐœ ๊ตญ๊ฐ€๋ฅผ ๊ธฐ์ค€์œผ๋กœ ํ•˜์˜€๊ณ  SMS ์š”๊ธˆ์ œ๊ฐ€ ๋น„์‹ผ ์•„ํ”„๋ฆฌ์นด์™€ ๋‚จ์•„์‹œ์•„๊ฐ€ ๋งŽ์Œ.

Log data

์›น์ธ์ง€ ๋„ค์ดํ‹ฐ๋ธŒ ์•ฑ์ธ์ง€์— ๋”ฐ๋ผ ์ˆ˜์ง‘ feature๊ฐ€ ๋‹ค๋ฆ„

  • ์‹๋ณ„์ž ๋ฐ ๊ณ„์ • ์ •๋ณด
    • ์ต๋ช…ํ™”๋œ ์‚ฌ์šฉ์ž ์‹๋ณ„์ž
    • ์ด๋ฉ”์ผ ๋„๋ฉ”์ธ ์ด๋ฆ„
    • ์ „ํ™”๋ฒˆํ˜ธ
  • ์š”์ฒญ ์ƒ์„ธ ์ •๋ณด
    • ์š”์ฒญ ์‹œ๊ฐ„
    • IP ์ฃผ์†Œ
    • SMS ๋Œ€์ƒ ๊ตญ๊ฐ€
    • ์•ก์…˜ ํƒ€์ž…
  • ์žฅ์น˜ ๋ฐ ํด๋ผ์ด์–ธํŠธ ์ •
    • ์žฅ์น˜ IMEI ๋ฒˆํ˜ธ
    • ์žฅ์น˜ ๋ชจ๋ธ
    • ํด๋ผ์ด์–ธํŠธ ๋ฐ OS ๋ฒ„์ „
  • ์„œ๋น„์Šค ๋ฐ ์ •์ฑ… ์ •๋ณด
    • ์ธ์ฆ ์„œ๋น„์Šค ์œ ํ˜•(๊ณ„์ • ๋กœ๊ทธ์ธ, 2์ฐจ ์ธ์ฆ, )
    • ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜
    • SMS ์š”๊ธˆ ์ •๋ณด
  • ์ถ”๊ฐ€ ์ƒํƒœ ์ •๋ณด
    • ๊ณ„์ • ์ฒซ ๋“ฑ๋ก ์‹œ ํด๋ผ์ด์–ธํŠธ ์œ ํ˜•
    • ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์žฅ์น˜๋ฅผ ๋“ฑ๋กํ–ˆ๋Š” ์ง€ ์—ฌ๋ถ€
    • ์ „ํ™”๋ฒˆํ˜ธ ์†Œ์œ ๊ถŒ ํ™•์ธ ์—ฌ๋ถ€

์ „์ฒ˜๋ฆฌ

  • ์ „ํ™”๋ฒˆํ˜ธ ์ ‘๋‘์‚ฌ : ๋’ค 4์ž๋ฆฌ๋ฅผ ์ œ๊ฑฐํ•˜์—ฌ ์ถ”์ถœ
  • IMEI ์ ‘๋‘์‚ฌ : ๋’ค 7์ž๋ฆฌ ์ œ๊ฑฐ

Labeling

  • ์ •์˜
    • ์ •์ƒ : 3๊ฐœ์›” ๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜์œผ๋กœ 25% ์ ˆ์‚ฌ ํ‰๊ท ๊ณผ ํ‘œ์ค€ ํŽธ์ฐจ๋ฅผ ๊ณ„์‚ฐ
      • ์ ˆ์‚ฌ ํ‰๊ท  : ์ƒ์œ„ 25%๋ฅผ ์ œ์™ธํ•˜๊ณ  ํ‰๊ท  ๊ณ„์‚ฐ
    • ํ”ผํฌ ํŠธ๋ž˜ํ”ฝ ๊ฒ€์ƒ‰ : ํ‰๊ท ๊ฐ’๋ณด๋‹ค ํ‘œ์ค€ ํŽธ์ฐจ n% ๋” ํฐ ์ผ์ผ ํŠธ๋ž˜ํ”ฝ ๋ณผ๋ฅจ
    • ํ”ผํฌ ํŠธ๋ž˜ํ”ฝ ํ™•์ธ : ์ผ์ผ ์ „ํ™˜์œจ์ด ์ •์ƒ ์ผ์ผ ํŠธ๋ž˜ํ”ฝ์„ ๊ธฐ์ค€์œผ๋กœ ๊ณ„์‚ฐ๋œ ์ค‘์•™๊ฐ’์— ๋น„ํ•ด ๋น„๊ตํ•˜์—ฌ ํฐ ์ˆ˜์น˜๋งŒํผ ํ•˜๋ฝํ•˜๋Š” ์ง€ ํ™•์ธ
      • ์ „ํ™˜์œจ : ์‹ค์ œ ์‚ฌ์šฉ์ž๊ฐ€ ์ธ์ฆ์— ์„ฑ๊ณตํ•˜๋Š” ๋น„์œจ. ๊ณต๊ฒฉ ํŠธ๋ž˜ํ”ฝ ๋Œ€๋ถ€๋ถ„์ด ์‹คํŒจํ•˜๋ฏ€๋กœ ํŠธ๋ž˜ํ”ฝ์ด ๊ธ‰์ฆํ–ˆ์Œ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ  ์„ฑ๊ณต๋ฅ ์€ ๊ธ‰๋ฝํ•˜๋Š” ํŠน์ง•์„ ์ด์šฉ
    • ํ”ผํฌ ํŠธ๋ž˜ํ”ฝ ํ™•์ธ ํ›„ ๋ผ๋ฒจ๋ง ๋ฐฉ๋ฒ•
      • ์›น ํŠธ๋ž˜ํ”ฝ : ๊ฐ™์€ ๋‚ ์— ์„ฑ๊ณต์ ์ธ ์ธ์ฆ ์—†์ด 4๋ฒˆ ์ด์ƒ์˜ ์š”์ฒญ ์ œ์ถœ. (์†๋„ ์ œํ•œ ์ •์ฑ… ํšŒํ”ผ์šฉ) ๋˜๋Š” ํŠน์ • ๊ตญ๊ฐ€. ๋‚ ์งœ, ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์— ํ‰์†Œ์™€์˜ ์ฐจ์ด๊ฐ€ ์ž„๊ณ„๊ฐ’๋ณด๋‹ค ํฐ ๊ฒฝ์šฐ๊ฐ€ ํ”ผํฌ ๋ณผ๋ฅจ์˜ ์ผ๋ถ€๋กœ ์˜จ ๊ฒฝ์šฐ์— ๊ณต๊ฒฉ์œผ๋กœ ๊ฐ„์ฃผ
      • ๋„ค์ดํ‹ฐ๋ธŒ ํด๋ผ์ด์–ธํŠธ : ์ „ํ™”๋ฒˆํ˜ธ๋‚˜ IMEI๋ฅผ ์ „ํ™˜ํ•˜๊ธฐ ์ „์— 1~2๊ฑด์˜ ์š”์ฒญ๋งŒ์œผ๋กœ ์ œ์ถœํ•˜๊ณ  ์ธ์ฆ์„ ์•ˆํ•˜๊ธฐ ๋•Œ๋ฌธ์— 3๊ฐœ์›” ๊ธฐ๊ฐ„ ๋™์•ˆ ๋‹จ ํ•œ ๋ฒˆ๋„ ์ธ์ฆ๋˜์ง€ ์•Š์€ ์ „ํ™”๋ฒˆํ˜ธ-IMEI ์Œ์„ ๊ณต๊ฒฉ์œผ๋กœ ๊ฐ„์ฃผ. ์•…์„ฑ ์‚ฌ์šฉ์ž, ์ „ํ™”๋ฒˆํ˜ธ, IMEI ๋ฒˆํ˜ธ set์„ ์‹๋ณ„ ํ›„ ํ•ด๋‹น set์™€ ๊ด€๋ จ๋œ ๋ชจ๋“  ์ƒ˜ํ”Œ์„ ๊ณต๊ฒฉ ์ƒ˜ํ”Œ๋กœ ๋ผ๋ฒจ๋ง

ํ”ผํฌ ์ฃผ๊ธฐ์™€ ๋น„ํ”ผํฌ ์ฃผ๊ธฐ ์ „์ฒด์— ๊ฑธ์ณ ์ผ๊ด€๋˜๊ฒŒ ์ •์ƒ ํŠธ๋ž˜ํ”ฝ์ด ์กด์žฌํ•จ์„ ํ™•์ธํ•จ.

Feature

Known Attack Characteristics

  • ๊ธฐ์กด ๋Œ€์‘์ฑ…
    • ์ธ์ฆ ์†๋„ ์ œํ•œ ์ •์ฑ…
    • ๊ณผ๋„ํ•˜๊ฒŒ ์‚ฌ์šฉ๋˜๋Š” ๊ณ„์ •, IP ์‹๋ณ„
    • ๋‹จ๊ธฐ ํŠธ๋ž˜ํ”ฝ ๊ธ‰์ฆ ๋ฐ ์ „ํ™˜์œจ์˜ ๊ทน๋‹จ์ ์ธ ํ•˜๋ฝ ๋ชจ๋‹ˆํ„ฐ๋ง
    • ๊ฐ€์งœ ์ „ํ™”๋ฒˆํ˜ธ ์ƒ์„ฑ ์‹œ ์‚ฌ์šฉ๋˜๋Š” ์ˆœ์ฐจ์ ์ธ ๋ฒˆํ˜ธ ํŒจํ„ด ์‹๋ณ„
  • ๊ธฐ์กด ๋Œ€์‘์ฑ… ๊ตฌํ˜„: ๋‹ค์ค‘ ์ด๋ฒคํŠธ ํ”ผ์ฒ˜์™€ ์ ‘๋‘์‚ฌ ๋ถ„์„
    • ๊ณผ๋„ํ•œ ์žฌ์‚ฌ์šฉ ๋ฐฉ์ง€ feature
      • 24์‹œ๊ฐ„ ๋‚ด ์ œ์ถœ๋œ ์š”์ฒญ ํšŸ์ˆ˜ : user-sms-count, ph-sms-count
      • ์‹œ๊ฐ„ ์ฐจ์ด ๊ธฐ๋ฐ˜
        • user-diff-avg : 24์‹œ๊ฐ„ ๋™์•ˆ ํŠน์ • ์‚ฌ์šฉ์ž๊ฐ€ ์ œ์ถœํ•œ ๋ชจ๋“  ์ธ์ฆ ์š”์ฒญ ์ค‘ ์—ฐ์†๋œ ๋‘ ์š”์ฒญ ์Œ ์‚ฌ์ด์˜ ์‹œ๊ฐ„ ์ฐจ์ด์˜ ํ‰๊ท 
        • user-time-diff-std : ์œ„์˜ ํ‰๊ท ์— ๋Œ€ํ•œ ํ‘œ์ค€ํŽธ์ฐจ
        • user๊ฐ€ ์•„๋‹Œ IMEI์™€ ์ „ํ™”๋ฒˆํ˜ธ์— ๋Œ€ํ•œ feature๋„ ์žˆ์Œ
      • ์ „ํ™˜์œจ : user-conv-rate, ph-conv-rate, imei-conv-rate
    • ์ „ํ™”๋ฒˆํ˜ธ์˜ ์ˆœ์ฐจ์  ๋ฒˆํ˜ธ ํŒจํ„ด
      • ๊ณต๊ฒฉ์˜ ๋Œ€๋ถ€๋ถ„์ด ์ถ”์  ๊ฐ€๋Šฅํ•œ ์ •๋ณด๋ฅผ ํ•œ ๋ฒˆ๋งŒ ์‚ฌ์šฉํ•˜๊ณ  ์ „ํ™˜.

      โ†’ ๋ฒˆํ˜ธ ๊ฐ„์˜ ์œ ์‚ฌ์„ฑ์„ ์ธก์ •ํ•˜๊ธฐ ์œ„ํ•ด ๋™์ผํ•œ ์ฃผ์ฒด๊ฐ€ ์—ฌ๋Ÿฌ ๊ฐœ์˜ ์˜์‹ฌ์Šค๋Ÿฌ์šด ๋ฒˆํ˜ธ๋ฅผ ์—ฐ์†์ ์œผ๋กœ ์‚ฌ์šฉํ•˜์—ฌ ํŒจํ„ด์„ ๋น„๊ตํ•ด์•ผ ํ•˜์ง€๋งŒ ๋น„๊ต๊ตฐ์ด ์—†์–ด์„œ ํž˜๋“ฆ

      • ph-prefix-count : ์ „ํ™”๋ฒˆํ˜ธ์—์„œ ์ ‘๋‘์‚ฌ ๊ฐ’์„ ์ถ”์ถœ. ๋Œ€์ƒ ๊ตญ๊ฐ€์˜ ์ „์ฒด 24์‹œ๊ฐ„ ํŠธ๋ž˜ํ”ฝ์—์„œ ์ ‘๋‘์‚ฌ ๋ฐ˜๋ณต ํšŸ์ˆ˜๋ฅผ ์…ˆ
      • ์ ‘๋‘์‚ฌ : ์ฃผ๋กœ ์ฃผ๋‚˜ ํ†ต์‹ ์‚ฌ๋ฅผ ๋‚˜ํƒ€๋ƒ„

์›น ์ฑ„๋„ ๊ณต๊ฒฉ ํŠน์„ฑ

4๊ฑด ์ดํ•˜๋กœ ๊ณต๊ฒฉ. ๋‹ค์ค‘ ์ด๋ฒคํŠธ ํ”ผ์ฒ˜๋Š” ์ฒซ ๋ฒˆ์งธ๋‚˜ ๋‘ ๋ฒˆ์งธ ์‹œ๋„๋ฅผ ํƒ์ง€ํ•˜๊ธฐ ํž˜๋“ฆ.

  • ๋‹จ๊ธฐ ์ด๋ฉ”์ผ ์„œ๋น„์Šค ํƒ์ง€ feature
    • ์ž„์‹œ ์ด๋ฉ”์ผ ์„œ๋น„์Šค๋Š” ์ฒซ ๋“ฑ์žฅ ๋‚ ์งœ๊ฐ€ ์ตœ๊ทผ
    • em-domain-sms-diff : ๋‹จ์ผ ์ด๋ฒคํŠธ feature. SMS ์š”์ฒญ timestamp์™€ ์ด๋ฉ”์ผ ๋„๋ฉ”์ธ์˜ ์ฒซ ๋“ฑ์žฅ timestamp ์‚ฌ์ด์˜ ์ฐจ์ด๋ฅผ ๊ณ„์‚ฐ. gmail ๊ฐ™์€ ๊ฒฝ์šฐ๋Š” ์ฒซ ๋“ฑ์žฅ์ด ๊ณผ๊ฑฐ
  • ์ž˜ ์•Œ๋ ค์ง„ ์ด๋ฉ”์ผ ์„œ๋น„์Šค ํƒ์ง€ feature
    • ์ž˜ ์•Œ๋ ค์ง„ ์ด๋ฉ”์ผ ๋„๋ฉ”์ธ์˜ ์ผ์ผ ์‚ฌ์šฉ๋ฅ  ๋ชจ๋‹ˆํ„ฐ๋ง
    • em-domain-prop-change : ๋Œ€์ƒ ๊ตญ๊ฐ€์˜ 24์‹œ๊ฐ„ ํŠธ๋ž˜ํ”ฝ ๋‚ด์—์„œ ํŠน์ • ์ด๋ฉ”์ผ ๋„๋ฉ”์ธ์— ์˜ํ•ด ์‹œ์ž‘๋œ SMS ํŠธ๋ž˜ํ”ฝ ๋น„์œจ์„ ๊ณ„์‚ฐ ํ›„ ๊ธฐ์ค€๊ฐ’์„ ๋นผ์„œ ๋ณ€ํ™”๋Ÿ‰ ์ธก์ •.
  • ์ „ํ™”๋ฒˆํ˜ธ ์ ‘๋‘์‚ฌ ์žฌ์‚ฌ์šฉ
    • ๊ณต๊ฒฉ์ž๋“ค์ด ๋Œ€๋Ÿ‰์˜ ๋ฒˆํ˜ธ ์ƒ์„ฑ์„ ์œ„ํ•ด ์ ‘๋‘์‚ฌ๋ฅผ ์œ ์ง€.
    • ๋™์ผํ•œ ๋ฒˆํ˜ธ๋Š” ph-prefix-count์— ํ•œ ๋ฒˆ๋งŒ ๊ธฐ์—ฌ
  • ์„ฑ๊ณต์ ์ธ ์ธ์ฆ
    • ์†๋„ ์ œํ•œ ์ •์ฑ…๊ณผ ์ „ํ™˜์œจ ๋ชจ๋‹ˆํ„ฐ๋ง ๊ทœ์น™์„ ์šฐํšŒํ•˜๊ธฐ ์œ„ํ•ด ์„ค๊ณ„
    • ์ž˜ ์•Œ๋ ค์ง„ ๋„๋ฉ”์ธ๊ณผ ๊ฐ€์งœ ์ „ํ™”๋ฒˆํ˜ธ๋ฅผ ์‚ฌ์šฉํ•˜๊ธฐ ๋•Œ๋ฌธ์— em-domain-prop-change์™€ ph-prefix-count๊ฐ€ ์ž‘๋™

๋„ค์ดํ‹ฐ๋ธŒ ์ฑ„๋„ ๊ณต๊ฒฉ ํŠน์„ฑ

  • ์ „ํ™”๋ฒˆํ˜ธ ์ ‘๋‘์‚ฌ ์žฌ์‚ฌ์šฉ
    • ๋„ค์ดํ‹ฐ๋ธŒ ์ฑ„๋„ ๊ณต๊ฒฉ์—์„œ ๋”์šฑ ๋‘๋“œ๋Ÿฌ์ง€๊ธฐ ๋•Œ๋ฌธ์— ์ ‘๋‘์‚ฌ ๊ด€๋ จ ํ”ผ์ฒ˜๋ฅผ ์ถ”๊ฐ€
    • ์ตœ์ ํ™”๋œ ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์— ์ „ํ™˜์œจ์ด ๋‚ฎ๊ธฐ ๋•Œ๋ฌธ์— ph-prefix-conv-rate (24์‹œ๊ฐ€๋‚˜ ๋‚ด ์ ‘๋‘์‚ฌ ๊ฐ’์— ๋Œ€ํ•œ ์ „ํ™˜์œจ)๋ฅผ ์ถ”๊ฐ€
  • IMEI ์ ‘๋‘์‚ฌ ์žฌ์‚ฌ์šฉ
    • IMEI๋Š” ๋งˆ์ง€๋ง‰ 7์ž๋ฆฌ๋ฅผ ์ œ์™ธํ•˜๋ฉด ๋ณ€๊ฒฝ์ด ๋ถˆ๊ฐ€
      • ์ฒซ 8์ž๋ฆฌ : ์œ ํ˜• ํ• ๋‹น ์ฝ”๋“œ
      • ๋‹ค์Œ 7์ž๋ฆฌ : ์‹œ๋ฆฌ์–ผ ๋ฒˆํ˜ธ 6์ž๋ฆฌ + ์ฒดํฌ ์ˆซ์ž 1์ž๋ฆฌ
    • imei-prefix-sms-prop : ํŠน์ • ๊ตญ๊ฐ€์—์„œ 24์‹œ๊ฐ„ ๋‚ด IMEI ์ ‘๋‘์‚ฌ ์ œ์ถœ ์š”์ฒญ ๋น„์œจ
    • IMEI๋Š” ๊ณ ์ •๋œ ๊ธฐ๊ธฐ ์„ค์ •(๋ชจ๋ธ, OS, ํด๋ผ์ด์–ธํŠธ ๋ฒ„์ „)์„ ํ†ตํ•ด ์ƒ์„ฑ
      • device-sms-prop : ํŠน์ • ๊ธฐ๊ธฐ ์„ค์ •์— ์˜ํ•ด ์‹œ์ž‘๋œ ํŠธ๋ž˜ํ”ฝ ๋น„์œจ
      • device-conv-rate : ํŠน์ • ๊ธฐ๊ธฐ ๋ชจ๋ธ์— ๋Œ€ํ•œ ์ „ํ™˜์œจ
  • ์˜ค๋ž˜๋œ ๋„ค์ดํ‹ฐ๋ธŒ ํด๋ผ์ด์–ธํŠธ
    • ๋Œ€์ฒด๋กœ ์˜ค๋ž˜๋œ ์žฅ์น˜์™€ OS์—์„œ ์ˆ˜ํ–‰
    • ์š”์ฒญ timestamp์™€ ๊ธฐ๊ธฐ ๋ชจ๋ธ, OS ๋ฒ„์ „, ํด๋ผ์ด์–ธํŠธ ์žฅ์น˜ ๋“ฑ์˜ ์ถœ์‹œ์ผ ์‚ฌ์ด์˜ ์‹œ๊ฐ„ ์ฐจ์ด feature
      • lookup table์„ ์‚ฌ์šฉ

์ข…ํ•ฉ

์›น ๋ชจ๋ธ feature

image.png

  • ์˜ˆ๋น„ ๋ชจ๋ธ : ๋‹ค์ค‘ ์ด๋ฒคํŠธ feature + ph-prefix-count ๋“ฑ ์ด 10๊ฐœ
  • ์ตœ์ ํ™” ๋ชจ๋ธ : ์ƒˆ๋กœ์šด ๋‹จ์ผ ์ด๋ฒคํŠธ ๋ฐ ๊ตญ๊ฐ€ ์ „์ฒด feature 8๊ฐœ ์ถ”๊ฐ€
    • service-id, sms-cost, join-channel, is-same-contry, have-trusted-device. ์ƒˆ๋กœ์šด 5๊ฐœ feature ์‚ฌ์šฉ
    • PRAUC ์ •ํ™•๋„ ํ‰๊ท  ๊ฐ์†Œ ๋ฐฉ๋ฒ•์„ ์‚ฌ์šฉํ•˜์—ฌ feature ์ค‘์š”๋„ ํ‰๊ฐ€

๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ feature

image.png

  • ์˜ˆ๋น„ ๋ชจ๋ธ : ์›น ๋ชจ๋ธ feature โ†’ IMEI ๋ณ„ ๋‹ค์ค‘ ์ด๋ฒคํŠธ feature
  • ์ตœ์ ํ™” ๋ชจ๋ธ : is-ph-verified ์ถ”๊ฐ€
    • is-ph-verified : ํŠน์ • ์ „ํ™”๋ฒˆํ˜ธ ์†Œ์œ ๊ถŒ์ด ์ด์ „์— ํ™•์ธ๋˜์—ˆ๋Š” ์ง€ ์—ฌ๋ถ€

ํ‰๊ฐ€

์žฌํ˜„์œจ์„ ๋ณด๊ณ ํ•˜๊ณ , ์˜ˆ๋น„ ๋ชจ๋ธ๊ณผ ์ตœ์ ํ™”๋œ ๋ชจ๋ธ ๋น„๊ต. GBT ๋ถ„๋ฅ˜๊ธฐ๋ฅผ ํ›ˆ๋ จ

  • ๋ฐ์ดํ„ฐ์…‹ : 1~2๋‹ฌ์€ ํ›ˆ๋ จ set, 3๋ฒˆ์งธ ๋‹ฌ์˜ 15์ผ์€ ๊ฒ€์ฆ. ๋‚˜๋จธ์ง€๋Š” ํ…Œ์ŠคํŠธ. ๋ชจ๋“  ์ƒ˜ํ”Œ์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์ด ์„ฑ๋Šฅ์— ์ข‹์Œ
  • TPR(์ •ํƒ์œจ)๊ณผ FPR(์˜คํƒ์œจ) ์ธก์ •

๊ฒ€์ฆ ์„ธํŠธ

  • ์ž„๊ณ„๊ฐ’์€ 0.9์ผ ๋•Œ ์˜คํƒ์œจ ๊ฐ์†Œ
  • ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์ด ํŒจํ„ด์ ์ด๋ผ ์ •ํƒ์œจ์ด ๋†’์Œ
  • ์˜ˆ๋น„ vs ์ตœ์ ํ™” ๋ชจ๋ธ
    • ๋ฐฉ๊ธ€๋ผ๋ฐ์‹œ๋Š” Web-Short-Email๊ณผ Web-Phone-Prefix๋ฅผ ์•…์šฉํ•˜์—ฌ em-domain-sms-diff๊ฐ€ ํ•„์š”
    • ์•„์ œ๋ฅด๋ฐ”์ด์ž”์—์„œ๋Š” em-domain-prop-change ์ด ์ •ํƒ์œจ ์ฆ๊ฐ€์— ๊ธฐ์—ฌ
  • ๋‚ฎ์€ TPR
    • ์šฐํฌ๋ผ์ด๋‚˜๊ฐ€ ์ดˆ๋ฐ˜์—๋Š” ๋†’์•˜์œผ๋‚˜ ์ ์  ๋–จ์–ด์ง
    • em-domain-prop-change์™€ ph-prefix-count ๋•Œ๋ฌธ
  • ๋†’์€ FPR : ์˜คํƒ์€ ์งง์€ ํ”ผํฌ ์ฃผ๊ธฐ ๋™์•ˆ ๋ฐœ์ƒํ•˜์ง€๋งŒ ์‚ฌ์šฉ์ž ์ ‘๊ทผ ๊ฑฐ๋ถ€๋Š” ์ผ์‹œ์ ์ž„
    • ์ฟ ์›จ์ดํŠธ์—์„œ๋Š” ์ •์ƒ ์‚ฌ์šฉ์ž๊ฐ€ ์šฐ์—ฐํžˆ ๊ณต๊ฒฉ์ž์˜ ์ ‘๋‘์‚ฌ๋‚˜ ์žฅ์น˜๋ฅผ ์‚ฌ์šฉํ•  ๋•Œ ๋ฐœ์ƒ
    • ์šฐ์ฆˆ๋ฒก์˜ ๊ฒฝ์šฐ์—๋Š” ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง ์ž˜๋ชป์˜ ๊ฐ€๋Šฅ์„ฑ์ด ํผ

ํ…Œ์ŠคํŠธ ์„ธํŠธ ์„ฑ๋Šฅ

  • ์ž„๊ณ„๊ฐ’์€ 0.9
  • ์›น vs ๋„ค์ดํ‹ฐ๋ธŒ์˜ ๊ฒฝ์šฐ ์„ฑ๋Šฅ ๋น„์Šท
  • ๋‚ฎ์€ TPR
    • ์ž‘์ง€๋งŒ ์€๋ฐ€ํ•œ ์ผ์ผํ•œ ํŠธ๋ž˜ํ”ฝ ๋ณผ๋ฅจ
    • ๋ฒˆํ˜ธ ๋‹น ํ•œ ๊ฑด๋งŒ ์š”์ฒญํ•˜๋Š” ๊ทน๋„๋กœ ์‚ฐ๋ฐœ์ ์ธ ํ˜•ํƒœ
    • ์ ‘๋‘์‚ฌ ํŒจํ„ด์ด ์—†์–ด์„œ ํƒ์ง€๊ฐ€ ์–ด๋ ค์›€
    • ์œ„์˜ ๊ฒƒ์ด ์ •์ƒ์ด ์•„๋‹Œ ์ด์œ ๊ฐ€ ์ด ๋ฒˆํ˜ธ๊ฐ€ ๊ณผ๊ฑฐ์˜ ํ”ผํฌ์—์„œ ์‚ฌ์šฉ๋œ ํ”์ ์ด ๋ฐœ๊ฒฌ๋จ.
  • ๋†’์€ FPR
    • ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง ๋ฌธ์ œ
  • ์‹œ๊ฐ„ ์ฐฝ์€ 24์‹œ๊ฐ„์—์„œ ์ตœ๊ณ  ์„ฑ๋Šฅ
  • ์ผ๋ฐ˜ํ™”
    • ์ผ๋ฐ˜ํ™”๋ฅผ ์œ„ํ•ด ๋‘ ๊ตญ๊ฐ€๋ฅผ ๋นผ๊ณ  ํ›ˆ๋ จ โ†’ ๋‘ ๊ตญ๊ฐ€์— ๋Œ€ํ•ด์„œ ์„ฑ๋Šฅ ์ธก์ •
    • ๊ณต๊ฒฉ์˜ ์œ ์‚ฌ์„ฑ์œผ๋กœ ์ธํ•ด ํšจ๊ณผ์ ์ธ ์™„ํ™”

ํšŒํ”ผ ๊ณต๊ฒฉ์— ๋Œ€ํ•œ ๊ฒฌ๊ณ ์„ฑ

  • ๊ณต๊ฒฉ์ž๋Š” ํšŒํ”ผ๋ฅผ ์œ„ํ•ด feature๋ฅผ ์กฐ์ž‘ํ•˜๋ ค๊ณ  ํ•˜๊ณ  ์ •์ƒ ํŠธ๋ž˜ํ”ฝ๊ณผ ์„ž์–ด์„œ ๋ณด๋ƒ„
  • ์‹คํ—˜
    • ์ •์ƒ ์ƒ˜ํ”Œ(์ •์ƒ ํ–‰๋™์„ ๋ณต์ œํ•˜๋Š” ๊ณต๊ฒฉ์ž) + ๊ณต๊ฒฉ ์ƒ˜ํ”Œ์„ ํ†ตํ•ด ์‹คํ—˜
    • ์›น ๋ชจ๋ธ์€ 30%๋ถ€ํ„ฐ ์„ฑ๋Šฅ ์ €ํ•˜

      โ†’ ํšจ์œจ์ ์ด์ง€ ๋ชปํ•œ ๊ณต๊ฒฉ

      • ํšŒํ”ผ set๊นŒ์ง€ ํ›ˆ๋ จํ•  ๊ฒฝ์šฐ์—๋Š” 30%๊นŒ์ง€๋„ ๊ดœ์ฐฎ์Œ
    • ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์—์„œ๋Š” 10%์—ฌ๋„ ๊ฒฌ๊ณ 

๋ชจ๋ธ ํฌ๊ธฐ ๋ฐ ์˜ค๋ฒ„ํ—ค๋“œ

  • ํฌ๊ธฐ
    • ์›น ๋ชจ๋ธ์€ 7.6MB, 200๊ฐœ์˜ ํŠธ๋ฆฌ, 121,628๊ฐœ์˜ ๋…ธ๋“œ
    • ๋„ค์ดํ‹ฐ๋ธŒ ๋ชจ๋ธ์€ 0.5MB, 200๊ฐœ์˜ ํŠธ๋ฆฌ, 6170๊ฐœ์˜ ๋…ธ๋“œ
  • ์‹œ๊ฐ„
    • ํ›ˆ๋ จ ์‹œ๊ฐ„์€ ๊ฐ๊ฐ 617์ดˆ์™€ 326์ดˆ
    • ์‹คํ–‰ ์‹œ๊ฐ„์„ ์ตœ์†Œํ™”ํ•˜๊ธฐ ์œ„ํ•ด ๊ณผ๊ฑฐ SMS ์š”์ฒญ ๋กœ๊ทธ๊ฐ€ ๋ฉ”๋ชจ๋ฆฌ์— ๋ฏธ๋ฆฌ ๋กœ๋“œ
    • ์บ์‹ฑ ์ž‘์—…์€ ์›น ํŠธ๋ž˜ํ”ฝ์€ 31MB, ๋„ค์ดํ‹ฐ๋ธŒ ํŠธ๋ž˜ํ”ฝ์€ 253MB์˜ ๋ฉ”๋ชจ๋ฆฌ ์†Œ๋ชจ
      • ํ”ผ์ฒ˜ ๊ณ„์‚ฐ ์‹œ๊ฐ„ + ๋ชจ๋ธ ์˜ˆ์ธก ํ•จ์ˆ˜ ์‹คํ–‰ ์‹œ๊ฐ„
      • ์›น ๋ชจ๋ธ์—์„œ ๊ณต๊ฒฉ ์ƒ˜ํ”Œ๊ณผ ์ •์ƒ ์ƒ˜ํ”Œ์„ ์˜ˆ์ธกํ•˜๋Š” ๋ฐ ๊ฑธ๋ฆฐ ์‹œ๊ฐ„์€ 31.2ms. 17.0ms
      • ๋„ค์ดํ‹ฐ๋ธŒ์—์„œ๋Š” 329.4ms, 63.4ms

      โ†’ ๋ถ„์„ํ•ด์•ผ ํ•  ์ „์ฒด ํŠธ๋ž˜ํ”ฝ์ด ์›น๋ณด๋‹ค ๋งŽ๊ธฐ ๋•Œ๋ฌธ

      โ†’ ๊ทธ๋ฆฌ๊ณ  ํ”ผํฌ ๊ณต๊ฒฉ์€ ์ผ์‹œ์ ์ด๋ฏ€๋กœ ์ €ํ•˜๋œ ๊ฒฝํ—˜์€ ์ผ์‹œ์ ์ž„

๋ชจ๋ธ ์žฌํ›ˆ๋ จ

image.png

3์ผ๋งˆ๋‹ค ํ•˜๋Š” ๊ฒƒ๊ณผ 10์ผ๋งˆ๋‹ค ํ•˜๋Š” ๊ฒƒ์ด ๋ฏธ๋ฏธํ•˜๊ธฐ ๋•Œ๋ฌธ์— 10์ผ๋กœ ๊ฒฐ์ •

Discussion

  • ์˜คํƒ : ๊ณต๊ฒฉ ์‹œ์— ๊ฐ™์€ ์ ‘๋‘์‚ฌ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ์‚ฌ์šฉ์ž์˜ ๊ฒฝ์šฐ โ†’ ๋ชจ๋ฐ”์ผ ์•ฑ ์ธ์ฆ์ด๋‚˜ ๋‹ค๋ฅธ 2๋‹จ๊ณ„ ์ธ์ฆ ์ˆ˜๋‹จ ์‚ฌ์šฉ์„ ๊ถŒ์žฅ
  • ๋ฏธํƒ
    • ์šฐํฌ๋ผ์ด๋‚˜ ๊ฐ™์€ ๊ฒฝ์šฐ Web-Dominant-Email, Web-Phone-Prefix, Web-Validation์ด ํ˜ผํ•ฉ๋œ ๋ฐฉ์‹์ด ์‚ฌ์šฉ๋˜์–ด, ์‹œ๊ฐ„์ด ์ง€๋‚˜๋ฉด์„œ ํƒ์ง€๊ฐ€ ์–ด๋ ค์›Œ์ง โ†’ ๋ชจ๋ธ ์žฌํ›ˆ๋ จ
    • ์ €์กฐํ•œ ํ”ผํฌ ์ฃผ๊ธฐ๋Š” 24์‹œ๊ฐ„ ๋‚ด์— ์ ‘๋‘์‚ฌ ํšŸ์ˆ˜ ๋ˆ„์ ์— ์˜์กดํ•˜๋Š” ๊ตญ๊ฐ€ ์ „์ฒด feature๊ฐ€ ๋ฌด์“ธ๋ชจ๊ฐ€ ๋˜์–ด ํƒ์ง€๊ฐ€ ์–ด๋ ค์›Œ์„œ ์€๋ฐ€ํ•˜์ง€๋งŒ ์ œํ•œ์ ์ž„. ํ•˜์ง€๋งŒ ์žฅ๊ธฐ์ ์œผ๋กœ๋Š” ๋ฌธ์ œ๊ฐ€ ๋˜๊ธฐ ๋•Œ๋ฌธ์— ๋” ๊ธด ์‹œ๊ฐ„์˜ ์‹œ๊ฐ„ ์ฐฝ์— ๊ธฐ๋ฐ˜ํ•œ feature ํƒ์ƒ‰์ด ํ•„์š”
  • ํ•œ๊ณ„
    • ๋ฐ์ดํ„ฐ ๋ผ๋ฒจ๋ง์˜ ํ•œ๊ณ„
    • ๋น„ํ”ผํฌ ๊ณต๊ฒฉ์— ๋Œ€ํ•œ ๋‚ฎ์€ ํƒ์ง€์œจ
  • ์‹ค์ œ ํ™˜๊ฒฝ์—์„œ๋Š” ๊ฐœ์ธ ์ •๋ณด ์ต๋ช…ํ™”๋ฅผ ์œ„ํ•ด ์ „ํ™”๋ฒˆํ˜ธ ์ ‘๋‘์‚ฌ์™€ IMEI ์ ‘๋‘์‚ฌ๋งŒ ํ‰๋ฌธ์œผ๋กœ ์ €์žฅํ•˜๊ณ  ๊ฐœ๋ณ„ ๋ฐœ์ƒ ํšŸ์ˆ˜๋Š” ์•”ํ˜ธํ™”๋œ ๊ฐ’์„ ์‚ฌ์šฉํ•˜์—ฌ ๊ณ„์‚ฐ

Categories:

Updated:

Leave a comment