Search
๐Ÿ—ฃ๏ธ

24-2 Seminar 9ํšŒ

ํƒœ๊ทธ
Seminar
๋‚ ์งœ
2024/09/19

Talk

First Talk

Title
โ€ข
DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜๊ณต์œ 
Talker
โ€ข
๊ฐ•ํ˜„๊ทœ
Topic
โ€ข
๊ฒฝํ—˜๊ณต์œ 
โ€ข
โ€ฆ
โ€ข
โ€ฆ
Materials ( PPT, PDF ๋‘˜ ๋‹ค ์˜ฌ๋ ค์ฃผ์„ธ์š”.)
DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ .pdf
3244.6KB
DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ .pptx
36790.6KB

Second Talk

Title
โ€ข
zero-shot semantic segmentation
Talker
โ€ข
์†กํ˜„์ง€
Topic
โ€ข
zero-shot semantic segmentation
โ€ข
โ€ฆ
โ€ข
โ€ฆ
Materials ( PPT, PDF ๋‘˜ ๋‹ค ์˜ฌ๋ ค์ฃผ์„ธ์š”.)
์†กํ˜„์ง€2_Seminar_24_2 (2).pdf
3124.4KB
์†กํ˜„์ง€2_Seminar_24_2.pptx
26554.7KB

ย Project

Materials ( ํŒŒ์ผ๋ช…: {ํ”„๋กœ์ ํŠธ๋ช…}_24_2_ํ”„๋กœ์ ํŠธ)

Study

Materials ( ํŒŒ์ผ๋ช…: {์Šคํ„ฐ๋””๋ช…}_24_2_์Šคํ„ฐ๋””)

Review

Search
Seminar Review
Name
Review
์ตœ์ข… ํŽธ์ง‘ ์ผ์‹œ
1. DSAIL ๋žฉ ์ธํ„ด ๊ณต์œ  ํ•œํŽธ์€ ๋ฌด์กฐ๊ฑด ๋…ผ๋ฌธ ์ฝ”๋“œ ๊ตฌํ˜„์ด๋ผ๋‹ˆ.. ์ •๋ง ๋นก์…€ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. Ai4science์— ๋Œ€ํ•ด์„œ ์ฒ˜์Œ ๋“ค์–ด๋ดค๋Š”๋ฐ ์‹ค์ œ๋กœ ์œ ์šฉํ•  ๊ฒƒ ๊ฐ™์•„์„œ ๊ด€์‹ฌ์žˆ๊ฒŒ ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค! ํ†ต๊ณ„ํ•™๊ณผ์‹ ๋ฐ ์‚ฌ์ด์–ธ์Šค ๊ด€๋ จ ai๋ฅผ ํ•˜์…จ๋‹ค๋‹ˆ ๋Œ€๋‹จํ•ฉ๋‹ˆ๋‹ค ํŒ€์žฅ๋‹˜โ€ฆ ๊ทธ๋ž˜ํ”„(gnn) ์Œฉ์ด๋ก ์ ์ธ ์˜์—ญ์ด๋ผ๋Š” ํŽธ๊ฒฌ์ด ์•˜์—ˆ๋Š”๋ฐ ์ด๋ฅผ ํ™œ์šฉํ•ด ๋‹ค์–‘ํ•œ ์—ฐ๊ตฌ๊ฐ€ ์ด๋ค„์ง€๊ณ  ์žˆ๋‹ค๋Š” ์ธ์‚ฌ์ดํŠธ๋ฅผ ์–ป์„ ์ˆ˜ ์žˆ์—ˆ๋˜ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! ๋ฉ€ํ‹ฐ๋ชจ๋”œ ๊ด€๋ จ ์—ฐ๊ตฌ๋„ ์ž˜ ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค! ์ €ํฌ ํ”„๋กœ์ ํŠธ์— ์ •๋ง ๋งž๋Š” ํ”Œ์ ์„ ํ•˜์…จ๊ตฐ์š”! ํŒ€์žฅ๋‹˜์˜ ์ง€ํ˜œ๋ฅผ ๊ธฐ๋Œ€ํ•ด๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค!!! 1. Zero shot semantic segmentation ๊ฐœ๊ฐ€ ์˜์ž ์œ„์— ์•‰์€ ๊ฑฐ๋ž‘ ๋ง์ด ์˜์ž ์œ„์— ์•‰์•„์žˆ๋Š” ๊ฑธ ํ™œ์šฉํ•œ graph encoding์ด๋ผ๋‹ˆ!! ์‹ ๊ธฐํ•˜๋„ค์š”! ์„ธ๊ทธ๋ฉ˜ํ…Œ์ด์…˜ ํƒœ์Šคํฌ์— ์ด๊ฐ€ ํ™œ์šฉ๋œ๋‹ค๋Š” ์ ์ด ํฅ๋ฏธ๋กญ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ zegformer๋ถ€ํ„ฐ๋Š” ํ”ฝ์…€ ๋‹จ์œ„์˜ ์˜ˆ์ธก๋ณด๋‹ค๋Š” segment๋ณ„ ๋ถ„๋ฅ˜ ๋ฐฉ์‹์— ๋Œ€ํ•ด ์ด์•ผ๊ธฐํ•˜๋Š”๋ฐ, ์ด๋ ‡๊ฒŒ ์•„์ด๋””์–ด๋ฅผ ์ „ํ™˜ํ•˜๋Š” ๊ณผ์ •์ด ์ •๋ง ์‹ ๊ธฐํ•˜๊ณ  ์–ธ์ œ๋‚˜ ๋†€๋ผ์šด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ €๋„ ๋‚˜์ค‘์— ํŒจ๋Ÿฌ๋‹ค์ž„์„ (์กฐ๊ธˆ) ๋ฐ”๊พธ๋Š” ์‚ฌ๋žŒ์ด ๋˜๊ณ  ์‹ถ๋„ค์š”!!! Zeroshot ํ™œ์šฉ์—๋Š” ๋‹ค zeg๊ฐ€ ๋ถ™์€ ๊ฒƒ๋„ ๊ท€์—ฝ๋„ค์š” ๋ฐœํ‘œ ์ž˜ ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค!!
2024/09/19 10:33
1. DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ๊ณ ๋“ฑํ•™๊ต ๊ณผํ•™ ์‹œ๊ฐ„์— ์ฃผ์ œ ๋ฐœํ‘œํ•˜๋ฉด์„œ ์ ‘ํ•˜๋˜ ์ธ๊ณต์ง€๋Šฅ ํ™œ์šฉ ์—ฐ๊ตฌ๊ฐ€ ์ด๋Ÿฌํ•œ ํ˜•ํƒœ๋กœ ์ง„ํ–‰๋œ๋‹ค๋Š” ๊ฒŒ ํฅ๋ฏธ๋กญ๋„ค์š”! ๋ญ”๊ฐ€ ์กฐ๊ธˆ ๋” ์•Œ๊ณ  ๋‚œ ๋’ค์— ๋‹ค์‹œ ๋ณด๋‹ˆ ์–ด๋А ์ •๋„ ์ดํ•ด๊ฐ€ ๊ฐ€๋ฉด์„œ๋„ ๋‹ค๋ฅธ ๊ฒƒ ๊ฐ™๋‹ค๋Š” ์ƒ๊ฐ์ด ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. GNN์ด ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉ๋˜๋Š” ์ง€ ๊ถ๊ธˆํ–ˆ๋Š”๋ฐ ์ด๋ฒˆ ๊ธฐํšŒ์— ์•Œ๊ฒŒ ๋ผ์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ํŠนํžˆ Instruction ํŠœ๋‹์„ ํ•œ๋‹ค๋Š” ์ ๋„ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค! ์ข‹์€ ๊ฒฝํ—˜ ๊ณต์œ ํ•ด์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. 2. zero-shot semantic segmentation zero-shot semantic segmentation์ด๋ž€ ์ƒˆ๋กœ์šด ๊ฒƒ์„ ์•Œ๊ฒŒ ๋˜์–ด ์ข‹์•˜์Šต๋‹ˆ๋‹ค! ํŠนํžˆ ๋ฐœ์ „ ํ๋ฆ„์„ ๋ฐœํ‘œํ•ด์ฃผ์…”์„œ ์ดํ•ดํ•˜๋Š”๋ฐ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ๋ฌผ๋ก  ํ•œ๋ฒˆ์— ์ œ๋Œ€๋กœ ์ดํ•ดํ•˜์ง€๋Š” ๋ชปํ–ˆ์ง€๋งŒ ์กฐ๊ธˆ์ด๋‚˜๋งˆ ์–ป์–ด๊ฐˆ ์ˆ˜๊ฐ€ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. zero-shot์„ ์ด๋ ‡๊ฒŒ ์“ฐ๋ฉด ์„ฑ๋Šฅ์ด ๋†’์•„์ง€๋Š”๊ฒŒ ์ดํ•ด๊ฐ€ ๋˜๋ฉด์„œ๋„ ์•ˆ ๋˜๋„ค์š”,, GMMN๋ถ€ํ„ฐ CLIP ์‚ฌ์šฉํ•˜๊ธฐ๊นŒ์ง€ ๋‚˜์ค‘์— ๊ธฐํšŒ ๋œ๋‹ค๋ฉด ๋…ผ๋ฌธ ๋ฆฌ๋ทฐ๋ผ๋„ ์ฝ์–ด๋ด์•ผ๊ฒ ์Šต๋‹ˆ๋‹ค! ์ข‹์€ ๋ฐœํ‘œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค!
2024/09/19 10:42
1). DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  GNN, recsys์— ๊ด€์‹ฌ์ด ๋งŽ์•˜๋˜์ง€๋ผ ํฅ๋ฏธ๋กญ๊ฒŒ ๋ฐœํ‘œ๋ฅผ ๋“ค์„ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. multimodal llm recsys๋ผ๋Š” ๋ถ„์•ผ๊ฐ€ ์žˆ์—ˆ๋˜ ๊ฒƒ๋„ ๋งค์šฐ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ์ง€๊ธˆ ํ”„๋กœ์ ํŠธ๋กœ ํ•˜๊ณ  ์žˆ๋Š”๊ฒƒ๋„ multimodal recsysํŒŒํŠธ์˜ ์‹œ์ž‘์ด๋‹ค ๋ณด๋‹ˆ ์ด๋ฒˆ ์ฃผ์ œ๊ฐ€ ๋ฐ˜๊ฐ€์› ์Šต๋‹ˆ๋‹ค. ์›์ž๋ฅผ ๋…ธ๋“œ๋กœ, ๊ฒฐํ•ฉ์„ ์—ฃ์ง€๋กœ ํ•˜์—ฌ GNN ํ•™์Šต์„ ์‹œํ‚จ๊ฒƒ์ด ๋†€๋ผ์› ์Šต๋‹ˆ๋‹ค. ๋‘๋ฒˆ์งธ multimodal recsys๋ผ๋Š” ๋ถ„์•ผ๋„ ์ œ๊ฐ€ ํ•ญ์ƒ ๋ฌธ์ œ๋ผ๊ณ  ์—ฌ๊ฒจ์™”๋˜ ๋ฌธ์ œ๋ฅผ ์„ค๋ช…ํ•ด์ฃผ์–ด ๋„ˆ๋ฌด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ์„ฑ์‹ฌ๋‹น ๋งค์ฃผ ๋ฐฉ๋ฌธ์€ ์ข€ ๋งŽ์ด ๋ถ€๋Ÿฝ๋„ค์š” 2). zero-shot sementic segmentation ์ง€๊ธˆ ํ”„๋กœ์ ํŠธ์—์„œ zeroshot segmentation task๋ฅผ ์ง„ํ–‰์ค‘์ธ๋ฐ ํ•œ์ฐฝ ๋ง‰ํ˜€ ํž˜๋“ค์—ˆ๋˜ ๋•Œ์— ์ด๋Ÿฐ ์ฃผ์ œ์˜ ๋ฐœํ‘œ๋ฅผ ๋“ฃ๊ฒŒ ๋˜์–ด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ์—ฌ๋Ÿฌ๊ฐ€์ง€ ๋…ผ๋ฌธ๋“ค์„ ์†Œ๊ฐœํ•ด์ฃผ์…จ๋Š”๋ฐ ํ•œ๋ฒˆ ์ฝ์–ด๋ด์•ผ๊ฒ ๋„ค์š”. ๊ทธ์ค‘์—์„œ ํŠนํžˆ ์ œ ํ”„๋กœ์ ํŠธ์—์„œ CLIP์„ ์‚ฌ์šฉํ•˜๊ณ  ์žˆ์–ด ZegCLIP ๋…ผ๋ฌธ์„ ์ฝ์–ด๋ด์•ผ๊ฒ ์Šต๋‹ˆ๋‹ค.
2024/09/19 10:30
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ์ตœ๊ทผ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜์—ฌ ์—ฐ๊ตฌ๋ฅผ ์ง„ํ–‰ํ•˜๊ณ  ๋†’์€ ์„ฑ๋Šฅ์„ ๋‚ด์–ด ๋…ผ๋ฌธ๊นŒ์ง€ ์ž‘์„ฑํ•˜์˜€๋‹ค๋Š” ์†Œ์‹์„ ๋“ค์€ ์ ์ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด์ฒ˜๋Ÿผ ๋ฐœํ‘œํ•˜์‹  AI4Science๋ฅผ ๋น„๋กฏํ•˜์—ฌ, ๋”ฅ๋Ÿฌ๋‹ ๋ฐ AI๊ฐ€ ๋ณด๋‹ค ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์— ํ™œ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค์ด ์ •๋ง ๋ฐ˜๊ฐ€์šด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ๋‹จ์ˆœํžˆ NLP, CV ๋“ฑ์—๋งŒ ๊ตญํ•œ๋˜๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ๊ณ ์ฐจ์›์ ์ธ ์ผ์—๋„ ์‚ฌ์šฉ๋จ์œผ๋กœ์จ ๋”ฅ๋Ÿฌ๋‹์ด ์•ž์œผ๋กœ ๋” ๋‹ค์–‘ํ•œ ๋ฐฉํ–ฅ์œผ๋กœ ๋ฐœ์ „ํ•  ์ˆ˜ ์žˆ์œผ๋ฉด ์ข‹๊ฒ ์Šต๋‹ˆ๋‹ค. 2) zero-shot semantic segmentation Zero-shot segmentation์— ๊ด€ํ•œ ๋…ผ๋ฌธ๋“ค์„ ์ „๋ฐ˜์ ์œผ๋กœ ์†Œ๊ฐœํ•˜์…จ์Šต๋‹ˆ๋‹ค. ๋…ผ๋ฌธ์ด ๋งŽ์•„์„œ ๊ณต๋ถ€๋Ÿ‰์ด ๋งŽ์•˜์„ ๊ฒƒ ๊ฐ™์€๋ฐ ๋Œ€๋‹จํ•˜์‹ญ๋‹ˆ๋‹คโ€ฆ ์ฒ˜์Œ zero-shot์„ ์ ‘ํ–ˆ์„ ๋•Œ ์ด๋Ÿฐ ๋ฐฉ์‹์ด ์„ฑ๋Šฅ์ด ์ข‹์„ ์ˆ˜๊ฐ€ ์žˆ์„๊นŒ? ์‹ถ์—ˆ๋Š”๋ฐ ๋‚˜๋‚ ์ด ๋ฐœ์ „ํ•˜๋Š” ๋ชจ์Šต์„ ๋ณด๋‹ˆ ์‹ ๊ธฐํ•˜๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค. ๋”ฅ๋Ÿฌ๋‹์„ ์ผ์ƒ์ƒํ™œ์— ์ œ๋Œ€๋กœ ํ™œ์šฉํ•˜๋ ค๋ฉด ์ ์€ ํ•™์Šต๋Ÿ‰, ๋˜๋Š” zero-shot์œผ๋กœ๋„ ๋†’์€ ์„ฑ๋Šฅ์„ ๋‚ด์•ผ ํ•˜๊ธฐ ๋•Œ๋ฌธ์— zero-shot์˜ ๋ฐœ์ „์€ ์–ด์ฐŒ๋ณด๋ฉด ์˜ˆ๊ฒฌ๋œ ๊ฒƒ ๊ฐ™๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค. ์ €๋„ ์ œ๋Œ€๋กœ ๊ณต๋ถ€ํ•ด๋ด์•ผ๊ฒ ๋„ค์š”! ๋žฉ์‹ค ์„ ๋ฐฐ๋‹˜ ๋งŽ์ด ๋„์™€์ฃผ์„ธ์š”~~
2024/09/19 11:03
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  AI4Science ๋ผ๋Š” ๋งŽ์€ ๊ณผํ•™๋ถ„์•ผ์˜ input, output ์Œ์ด ์กด์žฌํ•˜๋Š”๋ฐ ์ด์— ๊ด€ํ•ด AI ๊ฐ€ ํ™œ์šฉ๋˜์–ด ๋น„์šฉ ํšจ์œจ์ ์ด๊ณ  ๊ฒฐ๊ณผ๋„ ์šฐ์ˆ˜ํ•œ ๊ฒƒ์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ๋žฉ์‹ค ์ธํ„ด์— ๊ด€์‹ฌ์ด ๋งŽ์•˜์—ˆ๋Š”๋ฐ ๋Œ€์ „๊นŒ์ง€ ๊ฐ€์„œ ํ•™๋ถ€์—ฐ๊ตฌ์ƒ์„ ํ•˜๊ณ  ์˜จ ๊ฒƒ์ด ๋Œ€๋‹จํ–ˆ๊ณ  ๋งˆ์ด๋„ˆํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ„์•ผ๋ผ๋„ ์ž์‹ ์˜ ๊ด€์‹ฌ ์—ฐ๊ตฌ๋ถ„์•ผ๋ฅผ ์—ด์‹ฌํžˆ ํŒŒ๋Š” ๊ฒƒ ๋˜ํ•œ ์ค‘์š”ํ•˜๋‹ค ์ƒ๊ฐํ–ˆ์Šต๋‹ˆ๋‹ค. ์„ฑ์‹ฌ๋‹น bb 2) zero-shot semantic segmentation ์š”์ƒˆ ํ•ซํ•œ zero-shot ๊ธฐ๋ฒ•์ž…๋‹ˆ๋‹ค. ๊ธฐ๋…ผ์Šค์—์„œ CLIP ๋…ผ๋ฌธ์„ ์ฝ์–ด๋ดค์—ˆ๋Š”๋ฐ ๋งŽ์€ ๋ฐ์ดํ„ฐ์™€ ๊ทธ์— ๋”ฐ๋ฅธ ๋‹ค์–‘ํ•œ ์ƒํ™ฉ์˜ ์ค€์ˆ˜ํ•œ ์„ฑ๋Šฅ์ด ์š”๊ตฌ๋˜๋Š” ์š”์ฆ˜ ์ƒํ™ฉ์— ์ •๋ง ์ข‹์€ ๊ธฐ๋ฒ•์ด๋ผ ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ CV ์ชฝ์—์„œ ์ด๋ฏธ์ง€๊ฐ€ ๋ณ€ํ˜• ๋˜๋Š” ์กฐ์ž‘ ๋˜์–ด ์ž…๋ ฅ์œผ๋กœ ๋“ค์–ด์˜ค๊ณ  ์ด๋ฅผ ๋Œ€์‘ํ•˜์—ฌ ๋ชจ๋ธ์„ ์ผ๋ฐ˜ํ™” ํ•˜๋Š”๋ฐ ์ ์ ˆํ•˜๋‹ค ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค.
2024/09/19 10:24
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜๊ณต์œ  LLM ๋ชจ๋ธ์€ ์ฐธ ๋Œ€๋‹จํ•œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์–ธ์–ด ํ•™์Šต์„ ํ†ตํ•ด ๋‹ค์–‘ํ•œ task๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ๋Š”๊ฒŒ ์ฐธ ์‹ ๊ธฐํ•œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ด๋ฏธ์ง€๋ฅผ ์ถ”๊ฐ€ ํ•™์Šตํ•จ์œผ๋กœ์„œ ๋ชจ๋ธ ์„ฑ๋Šฅ์ด ๊ธฐ์กด LLM๋ชจ๋ธ์ด๋ž‘ ๋น„๊ตํ–ˆ์„ ๋•Œ ์–ผ๋งˆ๋‚˜ ๋” ์ข‹์•„์กŒ๋Š”์ง€ ๊ถ๊ธˆํ•˜๋„ค์š”. 2) zero-shot semantic segmentation unseen classes๋“ค์ด ๋งŽ์•„๋„ segmentation๋ฅผ ํ•  ์ˆ˜ ์žˆ๋Š” ZegFormer๊ฐ€ ๋Œ€๋‹จํ•œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์— clip๊นŒ์ง€ ์ถ”๊ฐ€ํ•ด์„œ ๊ฐœ์„ ํ•  ์ˆ˜ ์žˆ์—ˆ๋‹ค๋Š” ๊ฒŒ ์ฐธ ์‹ ๊ธฐํ•œ๋ฐ, ๊ธฐํšŒ๊ฐ€ ๋œ๋‹ค๋ฉด clip๊ฐ€ ์ •ํ™•ํžˆ ์–ด๋–ป๊ฒŒ ๊ฐœ์„ ์„ ํ–ˆ๋Š”์ง€ ๋…ผ๋ฌธ์„ ์ฝ์–ด๋ด์•ผ๊ฒ ์–ด์š”.
2024/09/19 10:33
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  AI4Science ๋ถ„์•ผ๋ฅผ ์ƒˆ๋กœ ์•Œ๊ฒŒ ๋˜์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. Multimodal LLM Recommendation๋„ ์•„์ฃผ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ์„ฑ์‹ฌ๋‹น ๋งค์ฃผ ๋ฐฉ๋ฌธ ๋งค์šฐ ๋ถ€๋Ÿฝ๋‹คโ€ฆ 2) zero-shot semantic segmentation unseen data์— ๋Œ€ํ•œ ์ข‹์€ ์„ฑ๋Šฅ์ด ๊ฒฐ๊ตญ ๋งŽ์€ task์—์„œ ๊ถ๊ทน์ ์ธ ๋ชฉํ‘œ๋ผ๊ณ  ์ƒ๊ฐํ•˜๋Š”๋ฐ, ๊ทธ๋ž˜์„œ ์žฌ๋ฐŒ๊ฒŒ ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. semantic segmentation์˜ ์—ฌ๋Ÿฌ ์ ‘๊ทผ๋ฒ•์„ ์ ‘ํ•  ์ˆ˜ ์žˆ์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค.
2024/09/19 10:28
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  AI4Science ๋ถ„์•ผ๋ฅผ ์ฒ˜์Œ ์ ‘ํ•˜๋Š”๋ฐ ํฅ๋ฏธ๋กœ์šด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค,, ์ €๋ฒˆ ์•„์ด์ฟ ํ†ค๋•Œ ๋˜๊ฒŒ ์ž˜ํ•˜์…จ๋˜ ๊ฒŒ ๊ธฐ์–ต๋‚˜์„œ ๋‹น์—ฐํžˆ ์ปด๊ณผ์‹ ์ค„์•Œ์•˜๋Š”๋ฐ ๋„ˆ๋ฌด๋„ˆ๋ฌด ๋Œ€๋‹จํ•˜์‹ ๊ฒƒ๊ฐ™์•„์š” ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์— ai๊ฐ€ํ™œ์šฉ๋˜๊ณ  ์žˆ๋Š” ๊ฒƒ๋„, ๋จธ์‹ ๋Ÿฌ๋‹๋„ ์ž˜ ์“ฐ์ด๊ณ  ์žˆ๋Š” ๊ฒƒ๋„ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค ์ข‹์€ ๊ฒฝํ—˜ ์†Œ๊ฐœํ•ด์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค 2) zero-shot semantic segmentation zero-shot segmentation๊ณผ ๊ด€๋ จ๋œ ๋‹ค์–‘ํ•œ ์—ฐ๊ตฌ๋“ค์„ ์•Œ ์ˆ˜ ์žˆ์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹คโ€ฆ ์ œ๊ฐ€ ์ตœ๊ทผ์— segmentation task ๊ด€๋ จํ•ด์„œ ๊ณจ์น˜์•„ํ”Œ ์ผ๋“ค์ด ๋งŽ์•˜์–ด์„œ ๋” ์žฌ๋ฐŒ๊ฒŒ ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค
2024/09/19 10:33
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ai4science๋ผ๋Š” ๋ถ„์•ผ๋ฅผ ์ฒ˜์Œ ๋“ค์–ด๋ณด๋Š”๋ฐ ๋•๋ถ„์— ์•Œ์•„๊ฐˆ ์ˆ˜ ์žˆ์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ๋‹จ๋ฐฑ์งˆ ํ•ฉ์„ฑ์‹œํ‚ค๋Š”๋ฐ ์ธ๊ณต์ง€๋Šฅ์ด ์‚ฌ์šฉ๋œ๋‹ค๊ณ  ํ•ด์„œ ์˜ค ๊ณผํ•™ ๋ถ„์•ผ์—์„œ๋„ ์ธ๊ณต์ง€๋Šฅ์ด ํ™œ๋ฐœํžˆ ์‚ฌ์šฉ๋˜๋Š”๊ตฌ๋‚˜ ํ–ˆ์Šต๋‹ˆ๋‹ค. ์–˜๋„ค๋„ ํŠธ๋žœ์Šคํฌ๋จธ๋ฅผ ํ™œ์šฉํ•œ๋‹ค๋Š” ์ ์—์„œ ํŠธ๋žœ์Šคํฌ๋จธ ๋…์žฌ ์‹œ๋Œ€๊ฐ€ ์–ธ์ œ๊นŒ์ง€ ๊ฐˆ ์ง€ ๊ถ๊ธˆํ•ด์กŒ์Šต๋‹ˆ๋‹ค. 2) zero-shot semantic segmentation segmentation์—์„ฏ ์ œ๋กœ์ƒท์œผ๋กœ ํ•˜๋Š” ์—ฐ๊ตฌ์˜ ์ถ”์ด๋ฅผ ์•Œ ์ˆ˜ ์žˆ์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. nlp์ชฝ์—์„œ๋Š” ์ œ๋กœ์ƒทํ•˜๋ ค๊ณ  ํŠนํžˆ gpt ๊ฐ™์€ ๊ฒฝ์šฐ๋Š” scale์„ ์—„์ฒญ ํ‚ค์›Œ์„œ ๋‹ฌ์„ฑํ•˜๋˜๋ฐ, segmentation์—์„œ๋Š” ์—ฌ๋Ÿฌ ์•„์ด๋””์–ด๊ฐ€ ๋“ค์–ด๊ฐ„๋‹ค๋Š” ์ ์—์„œ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค.
2024/09/19 10:27
1. DSAIL ๋žฉ ์ธํ„ด ๊ณต์œ : ๋ฌผ์งˆ์˜ ์ƒํƒœ?!๋ฅผ ๊ฒฐ์ •์ง“๋Š” DOS๋ผ๋Š” ๊ฐ’์ด ์žˆ๋‹ค๋Š” ๊ฑธ ์ฒ˜์Œ ์•Œ์•˜๋Š”๋ฐ ์ด ๊ฐ’์„ output์œผ๋กœ ๋‚ด๋Š” ๋ชจ๋ธ์ด ์žˆ๋‹ค๋Š” ๊ฒŒ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ recommendation ์—ฐ๊ตฌ ์ฃผ์ œ๋„ ์œ ์šฉํ•˜๊ฒŒ ์‚ฌ์šฉ๋  ์ˆ˜ ์žˆ์„ ๊ฒƒ ๊ฐ™์•„์„œ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ๋งˆ์ด๋„ˆํ•œ ๋ถ„์•ผ์ธ๋ฐ๋„ ์ด๋ฅผ ์—ฐ๊ตฌํ•˜๊ธฐ ์œ„ํ•ด ๋Œ€์ „๊นŒ์ง€ ๋‚ด๋ ค๊ฐ€์„œ ๊ณ„์…จ๋˜ ๊ทธ๋Ÿฐ ์—ด์ •?!๊ณผ ํ™•์‹ ์ด ๋Œ€๋‹จํ•˜์‹  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹น.! 2) zero-shot semantic segmentation: unseen data ๋“ฑ์— zero-shot semantic segmentation์„ ํ†ตํ•ด ๋ถ„๋ฅ˜ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ๊ฐ€์žฅ ์ตœ๊ทผ์— ๋‚˜์˜จ ๋…ผ๋ฌธ์ด 2019๋…„์œผ๋กœ zero-shot semantic segmentation๊ฐ€ ๋น„๊ต์  ์ตœ๊ทผ์— ๋“ฑ์žฅํ•œ ์ฃผ์ œ์ธ ๋งŒํผ, ์ž ์žฌ์„ฑ์ด ๋†’์€ ์ฃผ์ œ์ธ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.
2024/09/19 10:30
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜๊ณต์œ  AI4Science๋ผ๋Š” ๋ถ„์•ผ๋Š” ์ฒ˜์Œ ๋“ค์–ด๋ณด๋Š” ์ƒ์†Œํ•œ ๋ถ„์•ผ์ธ๋ฐ, AI๋ฅผ ๊ณผํ•™ ๋ถ„์•ผ์—์„œ๋„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค์„ ์•Œ๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. AI๋Š” ํ™œ์šฉ ๋ถ„์•ผ๊ฐ€ ๋ฌด๊ถ๋ฌด์ง„ํ•˜๋‹ค๋Š” ์ ์—์„œ ํฐ ํฌํ…์…œ์„ ๊ฐ€์ง€๊ณ  ์žˆ๋‹ค๋Š”๊ฑธ ๋‹ค์‹œ ํ•œ๋ฒˆ ๋А๊ผˆ์Šต๋‹ˆ๋‹ค. multi modal์„ ํ™œ์šฉํ•œ ์ถ”์ฒœ ์‹œ์Šคํ…œ๋„ ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. 2) zero-shot semantic segmentation ์ €๋ฒˆ์— ๋ฐฐ์› ๋˜ semantic segmentation์—์„œ ์กฐ๊ธˆ ๋” ๋ฐœ์ „๋œ ํ˜•ํƒœ์˜ zero shot semantic segmentation์— ๋Œ€ํ•ด์„œ ๋ฐœํ‘œํ•ด์ฃผ์…จ์Šต๋‹ˆ๋‹ค. unseen class์— ๋Œ€ํ•œ segmentation์„ ์ˆ˜ํ–‰ํ•˜๋Š”๊ฒŒ ์‹ ๊ธฐํ–ˆ์Šต๋‹ˆ๋‹ค.
2024/09/19 10:30
1. DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ์ƒˆ๋กœ์šด ๋ถ„์•ผ๋ฅผ ์•Œ๊ฒŒ ๋˜์–ด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๋žฉ์‹ค์—์„œ ์ฐธ์—ฌํ•˜์…จ๋˜ ํ”„๋กœ์ ํŠธ๋ฅผ ์ž˜ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ์ดํ•ดํ•˜๊ธฐ ์šฉ์ดํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ฒฝํ—˜ ๊ณต์œ  ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. 2. zero-shot semantic segmentation ์ตœ๊ทผ zero-shot semantic segmentation์— ๊ด€์‹ฌ์ด ์ƒ๊ฒผ๋Š”๋ฐ, ํ•ด๋‹น ์—ฐ๊ตฌ๊ฐ€ ์ง„ํ–‰๋˜์–ด์˜จ ํ๋ฆ„์„ ์•Œ๊ฒŒ๋˜์–ด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. ๊น”๋”ํ•˜๊ฒŒ ์ž˜ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ์ดํ•ดํ•˜๊ธฐ ์ˆ˜์›”ํ–ˆ์Šต๋‹ˆ๋‹ค. ์–ธ๊ธ‰ํ•ด์ฃผ์‹  ๋…ผ๋ฌธ ๋ชจ๋‘ ์ฝ์–ด๋ด์•ผ๊ฒ ์Šต๋‹ˆ๋‹น!
2024/09/19 10:43
2024/09/19 10:20
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ์ผ์ฃผ์ผ์— ํ•œ ๊ฐœ์”ฉ ๋…ผ๋ฌธ์„ ๊ตฌํ˜„ํ•˜์‹  ๊ฒƒ์ด ์ง„์งœ ๋Œ€๋‹จํ•˜์‹ญ๋‹ˆ๋‹ค. AI for science์— ๋Œ€ํ•ด ์ฒ˜์Œ์œผ๋กœ ์•Œ๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ๋žฉ์‹ค์—์„œ ํ•˜์‹  ์—ฐ๊ตฌ๋ฅผ ์ž์„ธํžˆ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. 2) zero-shot semantic segmentation CLIP๋…ผ๋ฌธ์—์„œ ์ฒ˜์Œ์œผ๋กœ zero-shot learning์„ ์•Œ์•˜๋Š”๋ฐ semantic segmentation ๋ถ„์•ผ์—์„œ ํ™œ์šฉํ•œ ๋…ผ๋ฌธ๋“ค์„ ์ž์„ธํžˆ ์•Œ ์ˆ˜ ์žˆ์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค. context๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์„ฑ๋Šฅ์„ ๋†’์ธ ๊ฒƒ์ด ์‹ ๊ธฐํ•ฉ๋‹ˆ๋‹ค. ์ดˆ๊ธฐ ๋…ผ๋ฌธ๋“ค๋„ ๊ฒฐ๊ณผ๊ฐ€ ์ข‹์•„๋ณด์—ฌ์„œ ๋†€๋ž์Šต๋‹ˆ๋‹ค.
2024/09/19 10:33
1) DASIL ์ถ”์ฒœ ์‹œ์Šคํ…œ์— ๋Œ€ํ•ด์„œ ์ž ๊น ๊ด€์‹ฌ์ด ์ƒ๊ฒจ์„œ ๊ณต๋ถ€๋ฅผ ํ•ด๋ณด๋ ค๋‹ค ์ง„์ž…์žฅ๋ฒฝ์ด ๋†’์€ ๊ฒƒ ๊ฐ™์•„์„œ ๋‘๋ ค์› ๋Š”๋ฐ, ์ƒ๊ฐ๋ณด๋‹ค ๊ทธ๋ ‡๊ฒŒ ์ƒˆ๋กญ๊ฑฐ๋‚˜ ์ง€๊ธˆ ํ•˜๊ณ ์žˆ๋Š” ์—ฐ๊ตฌ์—์„œ ํฌ๊ฒŒ ๋ฒ—์–ด๋‚˜์ง€ ์•Š๋Š” ๊ฒƒ ๊ฐ™์€ ๊ธฐ๋ถ„์ด ๋“ค์–ด์„œ ์ข‹์•˜์Šต๋‹ˆ๋‹ค.. ๊ทธ๋ฆฌ๊ณ  ์•„์ดํ…œ ID๋งŒ์„ ์ด์šฉํ•ด์„œ ์ถ”์ฒœ์„ ํ•  ์ˆ˜ ๋ฐ–์— ์—†์—ˆ๋˜ ๊ธฐ์กด ํ•œ๊ณ„๋ฅผ VLM์„ ์ด์šฉํ•ด ํ‘ธ๋Š” ๊ณผ์ •์ด ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. 2) Zero-shot semantic segmentation ์ด์ชฝ ์ œ๋กœ์ƒท ์ชฝ์œผ๋กœ ๊ณ„์† ์—ฐ๊ตฌ๋ฅผ ํ•˜๊ณ  ๊ณ„์‹  ๊ฒƒ ๊ฐ™์•„์„œ ํ๋ฆ„๋Œ€๋กœ ๋ฐœํ‘œ๋ฅผ ๋“ฃ๋Š” ์žฌ๋ฏธ๊ฐ€ ์žˆ๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! ๊ทธ๋ฆฌ๊ณ  segmentation์€ ์ง์ ‘ ๊ตฌํ˜„ํ•ด๋ณด๊ฑฐ๋‚˜ ์ฝ”๋“œ๋ฅผ ๋‹ค๋ค„๋ณธ ์ ์€ ์—†์–ด์„œ ๋‚œ์ด๋„๊ฐ€ ์‹ค๊ฐ์ด ์•ˆ๋‚˜์ง€๋งŒ, ์ด๊ฑธ ์ œ๋กœ์ƒท์— ์ ์šฉํ•˜์—ฌ ์ข‹์€ ์„ฑ๋Šฅ์„ ๋‚ผ ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒŒ ํฅ๋ฏธ๋กœ์šด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.
2024/09/19 10:34
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  1์ฃผ์ผ์— ๋…ผ๋ฌธ 3๊ฐœ ๋ฆฌ๋ทฐ์— ํ•˜๋‚˜๋Š” ํ•„์ˆ˜ ๊ตฌํ˜„์ด๋ผ๋‹ˆ ๋นก์„ธ๋„ค์š”ใ„ทใ„ทAI4Science๋ž‘ ์†Œ๊ฐœํ•ด์ฃผ์‹  ๋…ผ๋ฌธ๋„ ์ฒ˜์Œ ๋“ค์–ด๋ณด๋Š” ๋ถ„์•ผ์ธ๋ฐ ๊ทธ๋ž˜์„œ ๋” ์žฌ๋ฐŒ๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ๊ณผํ•™ ๋„๋ฉ”์ธ์— ai๋ฅผ ์ ์šฉํ•ด๋ณด๊ณ  ์‹ถ๋‹ค๋Š” ์ƒ๊ฐ์„ alphafold ๋‚˜์™”์„ ๋•Œ๋ถ€ํ„ฐ ํ•ด๋ดค๋Š”๋ฐ ๊ณผํ•™์„ ๋ชฐ๋ผ์„œ ์–ด๋ ค์šด ๊ฒƒ ๊ฐ™๋„ค์š”,,flamingo ํฅ๋ฏธ๋กญ๊ฒŒ ๋ณธ ๋…ผ๋ฌธ ์ค‘ ํ•˜๋‚˜์ธ๋ฐ ๋ฐ˜๊ฐ‘๋„ค์š”ใ…‹ใ…‹ใ…‹ใ…‹ใ…‹ 2) zero-shot semantic segmentation segmentation์€ SAM๋ง๊ณ ๋Š” ์ž˜ ๋ชฐ๋ž๋Š”๋ฐ ์ด๋Ÿฐ ๋…ผ๋ฌธ์ด ์žˆ์—ˆ๋„ค์š” ๊ผญ ํ•œ๋ฒˆ ์ฝ์–ด๋ด์•ผ๊ฒ ์Šต๋‹ˆ๋‹ค. segmentation์—์„œ graph์˜ ํ™œ์šฉ์ด๋ผ๋‹ˆ ์‹ ๊ธฐํ•˜๋„ค์š”.
2024/09/19 10:24
1) ์ฐธ์—ฌํ•œ multimodal ํ”„๋กœ์ ํŠธ๊ฐ€ ์ธ์ƒ ๊นŠ์Šต๋‹ˆ๋‹ค. LLM์˜ ํ™œ์šฉ๋„๋Š” ๋ฌด๊ถ๋ฌด์ง„ํ•œ ๊ฒƒ ๊ฐ™๋„ค์š”. .. ๋Œ€์ „๊นŒ์ง€ ๋‚ด๋ ค๊ฐ€์…”์„œ ๋žฉ ์ธํ„ดํ•˜์‹  ๊ฒŒ ๋Œ€๋‹จํ•œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์—ฌ๋ฆ„๋ฐฉํ•™์— ์ง€์›ํ•ด๋ณผ๊นŒ ํ•˜๋‹ค๊ฐ€ ๋ง์•˜๋Š”๋ฐ, ์ข‹์€ ๊ฒฝํ—˜ ๊ณต์œ ํ•ด์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค! 2) unseen class๋ฅผ ๊ตฌ๋ณ„ํ•˜๊ธฐ ์œ„ํ•œ ๋‹ค์–‘ํ•œ ๋ฐฉ๋ฒ•์ด ์žˆ๋‹ค๋Š” ๊ฒŒ ์‹ ๊ธฐํ•˜๋„ค์˜ค
2024/09/21 12:53
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  ์šฐ์„  ๋ฐฉํ•™๋™์•ˆ ๋Œ€์ „์— ๋‚ด๋ ค๊ฐ€์…”์„œ ํ•™๋ถ€์—ฐ๊ตฌ์ƒ ์ƒํ™œ์„ ํ•˜์…จ๋‹ค๋Š” ๊ฒŒ ๋Œ€๋‹จํ•˜์‹  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ํ‰์†Œ bioinformatics์™€ ๋”ฅ๋Ÿฌ๋‹์„ ์œตํ•ฉํ•œ ๋ถ„์•ผ๋ฅผ ์—ฐ๊ตฌํ•˜๊ณ  ์‹ถ๋‹ค๋Š” ์ƒ๊ฐ์„ ํ–ˆ๋Š”๋ฐ AI4Science๋ผ๋Š” ๋ถ„์•ผ๊ฐ€ ๋งค์šฐ ํฅ๋ฏธ๋กญ๊ฒŒ ๋А๊ปด์กŒ์Šต๋‹ˆ๋‹ค. ๊ธฐํšŒ๊ฐ€ ๋œ๋‹ค๋ฉด ๊ผญ DSAIL์—์„œ ์—ฐ๊ตฌ๋ฅผ ํ•ด๋ณด๊ณ  ์‹ถ๋‹ค๋Š” ์ƒ๊ฐ์ด ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. 2) Zero shot semantic segmentation ํ˜„์žฌ segmap ๊ด€๋ จ task๋ฅผ ์ง„ํ–‰ ์ค‘์ธ๋ฐ ํ”„๋กœ์ ํŠธ๋ฅผ ์œ„ํ•ด ์ฝ์—ˆ๋˜ ๋ชจ๋ธ์ด ์†Œ๊ฐœ๋˜์–ด์„œ ๋ฐ˜๊ฐ€์› ์Šต๋‹ˆ๋‹ค. ์—ฌํƒ€ ๋‹ค๋ฅธ ๋ชจ๋ธ๊ณผ๋Š” ๋‹ค๋ฅด๊ฒŒ ํ”„๋กฌํ”„ํŠธ๋ฅผ ๊ธธ๊ฒŒ ์ฃผ์–ด์„œ ์„ธ๊ทธ๋งต์„ ๋ฝ‘์•„๋‚ด๋Š” ๊ฒŒ ์‹ ๊ธฐํ–ˆ๊ณ  ์—ฌ๋Ÿฌ ๋ฌผ์ฒด ์ค‘์—์„œ ํŠน์ • ๋ฌผ์ฒด๋ฅผ ๋ฝ‘์•„๋‚ผ ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด ์‹ ๊ธฐํ–ˆ์Šต๋‹ˆ๋‹ค.
2024/09/19 10:34
1) DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜๊ณต์œ  GNN์€ ์กฐ๊ธˆ ์ƒ์†Œํ•œ ๋ถ„์•ผ์˜€๋Š”๋ฐ ์กฐ๊ธˆ์ด๋‚˜๋งˆ ์•Œ๊ฒŒ๋œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ถ”์ฒœ ์‹œ์Šคํ…œ์— LMM์ด ์–ด๋–ป๊ฒŒ ํ™œ์šฉ๋˜๋Š”์ง€๋„ ์•Œ๊ฒŒ๋˜์–ด ์ข‹์•˜์Šต๋‹ˆ๋‹ค. 2) zero-shot semantic segmentation segmentation์— graph context๋ฅผ ํ™œ์šฉํ•˜๊ธฐ๋„ ํ•œ๋‹ค๋Š” ๊ฑธ ์•Œ๊ฒŒ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. segmentation ๋ชจ๋ธ๋“ค์„ ์ด์ „ ๋ชจ๋ธ๊ณผ ๋น„๊ตํ•˜๋ฉฐ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ๋” ์ž˜ ์ดํ•ด๋œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. Zegformer์˜ ๊ฒฐ๊ณผ๊ฐ€ GT๋ณด๋‹ค ๋” ๋งค๋„๋Ÿฌ์šด๊ฒŒ ์‹ ๊ธฐํ•˜๋„ค์š”
2024/09/19 10:30
1. DSAIL ๋žฉ์ธํ„ด AI4Science๋ผ๋Š” ๊ฒฐ์ • ๊ตฌ์กฐ์™€ ๊ด€๋ จ๋œ ๋‹ค์†Œ ์ƒ์†Œํ•œ ๋ถ„์•ผ์— ๋Œ€ํ•ด์„œ ๊ฐ„๋žตํ•˜๊ฒŒ๋‚˜๋งˆ ์•Œ ์ˆ˜ ์žˆ์–ด ์œ ์ตํ•œ ์‹œ๊ฐ„์ด์—ˆ์Šต๋‹ˆ๋‹ค. ์ด์™ธ์—๋„ Multi-Modal LLM์„ ์ถ”์ฒœ ์‹œ์Šคํ…œ์— ์ ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•ด์„œ๋„ ์•Œ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค ใ…Žใ…Ž ๋ฌธ๊ณผ ์ถœ์‹ ์ž„์—๋„ ํ•˜๊ณ  ์‹ถ์€ ์ผ์„ ์œ„ํ•ด ๋Š์ž„์—†์ด ๋…ธ๋ ฅํ•˜์‹œ๋Š” ๋ชจ์Šต์ด ๋ฉ‹์žˆ๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! 2. Zero-shot Semantic Segmentation unseen ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ segmentation์„ ์ ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๋ฐฉ๋ฒ•๋ก ์ธ ZS3Net์™€ CaGNet์— ๋Œ€ํ•ด์„œ ์•Œ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ ๋ฌธ๋งฅ์˜ ๊ด€๊ณ„๋ฅผ ๊ณ ๋ คํ•˜์—ฌ Segmentation์— ์ ์šฉํ•œ CaGNet์ด ํฅ๋ฏธ๋กœ์› ์Šต๋‹ˆ๋‹ค. ์ด์™ธ์—๋„ ํ”ฝ์…€ ๋‹จ์œ„๋กœ segmentํ•˜๋Š”๊ฒŒ ์•„๋‹Œ ๊ทธ๋ฃน ๋‹จ์œ„๋กœ segmentํ•˜๋Š” ZegFormer, ZegClip์— ๋Œ€ํ•ด์„œ ์•Œ ์ˆ˜ ์žˆ์–ด ์œ ์ตํ•œ ์‹œ๊ฐ„์ด์—ˆ์Šต๋‹ˆ๋‹ค. ๋งŽ์€ ๋…ผ๋ฌธ ๋ฆฌ๋ทฐํ•˜์‹œ๋А๋ผ ์ •๋ง ์ˆ˜๊ณ  ๋งŽ์œผ์…จ์Šต๋‹ˆ๋‹ค~!!! :)
2024/09/19 10:33
1. DSAIL ๋žฉ์ธํ„ด AI4Science ๋ถ„์•ผ๋Š” ๋ถ„์•ผ ์ž์ฒด๋ฅผ ์ฒ˜์Œ ๋“ค์–ด๋ด์„œ ์ƒ์†Œํ•˜๊ธฐ๋Š” ํ–ˆ์ง€๋งŒ, ํ•ด๋‹น ์—ฐ๊ตฌ์‹ค์—์„œ ์–ด๋–ค ์ผ๋“ค์„ ํ•˜๊ณ  ๊ณ„์‹œ๋Š”์ง€, ์–ด๋–ค ๋ถ„์•ผ๊ฐ€ ๊ด€์‹ฌ ์žˆ์œผ์…”์„œ ๋Œ€์ „๊นŒ์ง€ ๊ฐ€๊ฒŒ ๋˜์…จ๋Š”์ง€, ๊ฒฐ์ • ์˜ˆ์‹œ๋ฅผ ๋“ค์–ด ํ•ด๋‹น ๋ถ„์•ผ๊ฐ€ ์–ด๋–ค ๊ฒƒ๋“ค์„ ํ•˜๋Š” ๊ฒƒ์ธ์ง€ ์ž์„ธํžˆ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ์ดํ•ดํ•˜๊ธฐ ํŽธํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ฐœ์ธ์ ์œผ๋กœ๋Š” ๊ณผํ•™์„ ์œ„ํ•œ AI๋ผ๋Š” ๋ถ„์•ผ ์ž์ฒด๊ฐ€ ๋…๋ฆฝ์ ์œผ๋กœ ์—ฐ๊ตฌ๋˜๊ณ  ์žˆ๋Š” ์ ๋„ ์‹ ๊ธฐํ–ˆ์Šต๋‹ˆ๋‹ค. 2. zero-shot semantic segmentation ๊ด€๋ จ ๋ถ„์•ผ์— ๋Œ€ํ•œ ๋ฐฐ๊ฒฝ ์ง€์‹ ๋ถ€์กฑ์œผ๋กœ ๋งŽ์€ ๋‚ด์šฉ๋“ค์„ ์ดํ•ดํ•˜๊ธฐ์—๋Š” ํž˜๋“ค์—ˆ์ง€๋งŒ zero-shot learning ๋ถ„์•ผ์— ๋Œ€ํ•ด ํ•œ ๋…ผ๋ฌธ์ด ์•„๋‹ˆ๋ผ ๋‹ค์–‘ํ•œ ๋…ผ๋ฌธ์˜ ๋ณ€ํ™” ์–‘์ƒ๋“ค์„ ์œ„์ฃผ๋กœ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ๊ฐœ๋…์ ์ธ ๋ถ€๋ถ„๋“ค์— ๋Œ€ํ•ด์„œ๋Š” ๋งŽ์ด ์–ป์–ด๊ฐˆ ์ˆ˜ ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค. ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค!
2024/09/19 10:34
1. DSAIL ๋žฉ์ธํ„ด ์ œ๊ฐ€ ๋“ค์–ด๊ฐ€์žˆ๋Š” ๋žฉ์‹ค ๊ต์ˆ˜๋‹˜์˜ interest์™€ ๋งŽ์ด ๋น„์Šทํ•ด์„œ ์‹ ๊ธฐํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  AI4Science๋ผ๋Š” ๋ถ„์•ผ๋Š” ์ฒ˜์Œ ๋“ค์–ด๋ดค๋Š”๋ฐ ์ธ๊ณต์ง€๋Šฅ์ด ๊ณผํ•™, ํŠนํžˆ ์ž์—ฐ๊ณผํ•™์—์„œ ์œ ์šฉํ•˜๊ฒŒ ํ™œ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์ด ์‹ ๊ธฐํ–ˆ์Šต๋‹ˆ๋‹ค. ์ข‹์€ ๊ฒฝํ—˜๊ณต์œ  ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค! 2. zero-shot semantic segmentation Zero-shot semantic segmentation์— ๋Œ€ํ•œ ๋‹ค์–‘ํ•œ ๋…ผ๋ฌธ๊ณผ ์—ฐ๊ตฌํ๋ฆ„์„ ์†Œ๊ฐœํ•ด์ฃผ์…”์„œ ์œ ์ตํ–ˆ์Šต๋‹ˆ๋‹ค. CLIP ๋ฐ GNN์„ ํ†ตํ•œ ๊ทธ๋ž˜ํ”„ ์ธ์ฝ”๋”ฉ์ด ์„ธ๊ทธ๋ฉ˜ํ…Œ์ด์…˜ ์ž‘์—…์—์„œ ์–ด๋–ป๊ฒŒ ํ™œ์šฉ๋˜๋Š”์ง€์— ๋Œ€ํ•œ ์„ค๋ช…์ด ํฅ๋ฏธ๋กœ์› ์œผ๋ฉฐ, ZegCLIP ๋…ผ๋ฌธ๋„ ๊ผญ ํ•œ ๋ฒˆ ์ฝ์–ด๋ณด๊ณ  ์‹ถ๋„ค์š”! ์ข‹์€ ๋ฐœํ‘œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค:)
2024/09/19 11:45
1 DSAIL ๋žฉ์ธํ„ด ์ƒˆ๋กœ์šด ๋ถ„์•ผ์— ๋Œ€ํ•ด์„œ ์•Œ์•„๊ฐˆ ์ˆ˜ ์žˆ์—ˆ๋˜ ๋ฐœํ‘œ์˜€๋˜ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ๊ด€์‹ฌ ์žˆ๋Š” ๋ถ„์•ผ์— ๋Œ€ํ•ด ์—ฐ๊ตฌํ•˜๊ธฐ ์œ„ํ•ด์„œ ๋Œ€์ „๊นŒ์ง€ ๋‚ด๋ ค๊ฐ€์„œ ์ธํ„ด ์ƒํ™œ์„ ํ•˜์‹  ๊ฒƒ์ด ๋Œ€๋‹จํ•˜์‹  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! ์ข‹์€ ๋ฐœํ‘œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค :) 2. zero-shot semantic segmentation Zero-shot learning์— ๋Œ€ํ•ด์„œ ํ•œ ๊ฐ€์ง€๊ฐ€ ์•„๋‹Œ ์—ฌ๋Ÿฌ ๊ฐ€์ง€ ๋…ผ๋ฌธ์„ ์ด์šฉํ•ด์„œ ์„ค๋ช…ํ•ด์ฃผ์…”์„œ ๋” ์ž˜ ์ดํ•ด๊ฐ€ ๋œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์ข‹์€ ๋ฐœํ‘œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค !! :)
2024/09/19 10:34
DSAIL ๋žฉ ์ธํ„ด ๊ฒฝํ—˜ ๊ณต์œ  GNN์„ ์ข‹์•„ํ•˜์‹œ๋Š” ์ง€ ๋ชฐ๋ž๋„ค์š”. ํ•œ ๋ฒˆ์”ฉ ๋…ผ๋ฌธ์—์„œ ๋‚˜์˜ค๋ฉด ์–ด๋ ค์›Œ๊ฐ€์ง€๊ณ  ๋„˜๊ฒผ๋Š”๋ฐ ๋ฉ‹์ง‘๋‹ˆ๋‹ค. ์ž์—ฐ๊ณผํ•™ ๋ถ„์•ผ์—์„œ ๋จธ์‹ ๋Ÿฌ๋‹์„ ํ•˜๋Š” ๋žฉ์ด ์‚ฐ์—…๊ณตํ•™๊ณผ์— ์žˆ๋Š” ๊ฒƒ์ด ์‹ ๊ธฐํ•ฉ๋‹ˆ๋‹ค. kaist..์ €๋„ ๊ฐ€์„œ ์ผํ•ด๋ณด๊ณ  ์‹ถ๋„ค์š”! Zero-shot semantic segmentation ์ฒซ ์‹œ์ž‘๋ถ€ํ„ฐ ํ˜„์žฌ๊นŒ์ง€์˜ ์—ฐ๊ตฌ๋ฅผ ํ•œ ๋ฒˆ ํ›‘์œผ์‹  ๊ฒƒ์ด ์žฌ๋ฐŒ์—ˆ์Šต๋‹ˆ๋‹ค. ์„ฑ๋Šฅ์ด ์ซ™์ซ™ ์˜ฌ๋ผ๊ฐ€๋Š” ๊ฒŒ ์ธ์ƒ ๊นŠ๋„ค์š”. ์ด๋ฒˆ CVPR 2024์—๋„ ํ•˜๋‚˜ ๋‚˜์˜จ ๊ฑธ๋กœ ์•„๋Š”๋ฐ ์ฐธ๊ณ ํ•ด๋ณด์‹œ๋ฉด ์ข‹์„ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! ์žฌ๋ฐŒ๋Š” ๋ฐœํ‘œ์˜€์Šต๋‹ˆ๋‹ค!
2024/09/19 11:35
1. ์นด์ด์ŠคํŠธ ๋žฉ์ธํ„ด ใ„ทใ„ทใ„ท ๋Œ€๋‹จํ•˜์‹ญ๋‹ˆ๋‹ค,,, ์ž์—ฐ๊ณผํ•™์—์„œ ํ’€๊ธฐ ์–ด๋ ค์› ๋˜ ๋ฌธ์ œ๋ฅผ ํ’€๊ธฐ ์œ„ํ•œ ๋„๊ตฌ๋กœ์จ์˜ ๋”ฅ๋Ÿฌ๋‹์ด ์ถ”ํ›„ AI๊ฐ€ ๋‚˜์•„๊ฐˆ ๋ฐฉํ–ฅ์„ฑ ์ค‘ ํฐ ์˜์—ญ์ด๋ผ๊ณ  ์ƒ๊ฐํ•˜๋Š”๋ฐ, ๊ทธ๊ฑธ ์—ฐ๊ตฌํ•˜์‹ ๋‹ค๋‹ˆ ๋ฏธ๋ž˜๊ฐ€ ์ฐฝ์ฐฝํ•˜์‹  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. GNN์œผ๋กœ ์–ด๋–ค ๋ถ„์•ผ์˜ ๋ฌธ์ œ๋ฅผ ํ‘ธ๋Š” ๊ฑธ ๊ด€์‹ฌ์žˆ์–ดํ•˜์‹œ๋Š”์ง€ ๊ถ๊ธˆํ•ด์š”! 2. ์—ฐ๊ตฌ์˜ ์—ญ์‚ฌ๋ฅผ ๋‹ค ํ›‘๋Š”๊ฒŒ ์–ด๋ ค์šด๋ฐ โ€ฆ ํ•œ ๋ถ„์•ผ์˜ ํ๋ฆ„์„ ์ด๋ ‡๊ฒŒ ๋‹ค ์งš์–ด์ฃผ์‹œ๋Š”๊ฒŒ ๋Œ€๋‹จํ•˜๋‹ค๊ณ  ์ƒ๊ฐํ–ˆ์Šต๋‹ˆ๋‹ค. ์ฒ˜์Œ ๋“ฃ๋Š” ๋ถ„์•ผ์˜€๋Š”๋ฐ ๋งŽ์ด ๋ฐฐ์›Œ๊ฐ€๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค! ๊ด€์‹ฌ์žˆ๊ฒŒ ๋“ค์€ ๋ถ€๋ถ„๋“ค๋งŒ ๋”ฐ๋กœ ์ œ๊ฐ€ ์ฐพ์•„๋ณด๋ฉด ๋„์›€์ด ๋งŽ์ด ๋  ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.
2024/09/19 10:34
Load more