Talk
First Talk
Title
โข
DSAIL ๋ฉ ์ธํด ๊ฒฝํ๊ณต์
Talker
โข
๊ฐํ๊ท
Topic
โข
๊ฒฝํ๊ณต์
โข
โฆ
โข
โฆ
Materials (
PPT, PDF ๋ ๋ค ์ฌ๋ ค์ฃผ์ธ์.)
DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์ .pdf
3244.6KB
DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์ .pptx
36790.6KB
Second Talk
Title
โข
zero-shot semantic segmentation
Talker
โข
์กํ์ง
Topic
โข
zero-shot semantic segmentation
โข
โฆ
โข
โฆ
Materials (
PPT, PDF ๋ ๋ค ์ฌ๋ ค์ฃผ์ธ์.)
์กํ์ง2_Seminar_24_2 (2).pdf
3124.4KB
์กํ์ง2_Seminar_24_2.pptx
26554.7KB
ย Project
Materials (
ํ์ผ๋ช
: {ํ๋ก์ ํธ๋ช
}_24_2_ํ๋ก์ ํธ)
Study
Materials (
ํ์ผ๋ช
: {์คํฐ๋๋ช
}_24_2_์คํฐ๋)
Review
Table
Search
Name
Review
์ต์ข
ํธ์ง ์ผ์
1. DSAIL ๋ฉ ์ธํด ๊ณต์
ํํธ์ ๋ฌด์กฐ๊ฑด ๋
ผ๋ฌธ ์ฝ๋ ๊ตฌํ์ด๋ผ๋.. ์ ๋ง ๋นก์
๊ฒ ๊ฐ์ต๋๋ค. Ai4science์ ๋ํด์ ์ฒ์ ๋ค์ด๋ดค๋๋ฐ ์ค์ ๋ก ์ ์ฉํ ๊ฒ ๊ฐ์์ ๊ด์ฌ์๊ฒ ๋ค์์ต๋๋ค! ํต๊ณํ๊ณผ์ ๋ฐ ์ฌ์ด์ธ์ค ๊ด๋ จ ai๋ฅผ ํ์
จ๋ค๋ ๋๋จํฉ๋๋ค ํ์ฅ๋โฆ ๊ทธ๋ํ(gnn) ์ฉ์ด๋ก ์ ์ธ ์์ญ์ด๋ผ๋ ํธ๊ฒฌ์ด ์์๋๋ฐ ์ด๋ฅผ ํ์ฉํด ๋ค์ํ ์ฐ๊ตฌ๊ฐ ์ด๋ค์ง๊ณ ์๋ค๋ ์ธ์ฌ์ดํธ๋ฅผ ์ป์ ์ ์์๋ ๊ฒ ๊ฐ์ต๋๋ค! ๋ฉํฐ๋ชจ๋ ๊ด๋ จ ์ฐ๊ตฌ๋ ์ ๋ค์์ต๋๋ค! ์ ํฌ ํ๋ก์ ํธ์ ์ ๋ง ๋ง๋ ํ์ ์ ํ์
จ๊ตฐ์! ํ์ฅ๋์ ์งํ๋ฅผ ๊ธฐ๋ํด๋ณด๊ฒ ์ต๋๋ค!!!
1. Zero shot semantic segmentation
๊ฐ๊ฐ ์์ ์์ ์์ ๊ฑฐ๋ ๋ง์ด ์์ ์์ ์์์๋ ๊ฑธ ํ์ฉํ graph encoding์ด๋ผ๋!! ์ ๊ธฐํ๋ค์! ์ธ๊ทธ๋ฉํ
์ด์
ํ์คํฌ์ ์ด๊ฐ ํ์ฉ๋๋ค๋ ์ ์ด ํฅ๋ฏธ๋กญ์ต๋๋ค. ๋ํ zegformer๋ถํฐ๋ ํฝ์
๋จ์์ ์์ธก๋ณด๋ค๋ segment๋ณ ๋ถ๋ฅ ๋ฐฉ์์ ๋ํด ์ด์ผ๊ธฐํ๋๋ฐ, ์ด๋ ๊ฒ ์์ด๋์ด๋ฅผ ์ ํํ๋ ๊ณผ์ ์ด ์ ๋ง ์ ๊ธฐํ๊ณ ์ธ์ ๋ ๋๋ผ์ด ๊ฒ ๊ฐ์ต๋๋ค. ์ ๋ ๋์ค์ ํจ๋ฌ๋ค์์ (์กฐ๊ธ) ๋ฐ๊พธ๋ ์ฌ๋์ด ๋๊ณ ์ถ๋ค์!!! Zeroshot ํ์ฉ์๋ ๋ค zeg๊ฐ ๋ถ์ ๊ฒ๋ ๊ท์ฝ๋ค์ ๋ฐํ ์ ๋ค์์ต๋๋ค!!
2024/09/19 10:33
1. DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
๊ณ ๋ฑํ๊ต ๊ณผํ ์๊ฐ์ ์ฃผ์ ๋ฐํํ๋ฉด์ ์ ํ๋ ์ธ๊ณต์ง๋ฅ ํ์ฉ ์ฐ๊ตฌ๊ฐ ์ด๋ฌํ ํํ๋ก ์งํ๋๋ค๋ ๊ฒ ํฅ๋ฏธ๋กญ๋ค์! ๋ญ๊ฐ ์กฐ๊ธ ๋ ์๊ณ ๋ ๋ค์ ๋ค์ ๋ณด๋ ์ด๋ ์ ๋ ์ดํด๊ฐ ๊ฐ๋ฉด์๋ ๋ค๋ฅธ ๊ฒ ๊ฐ๋ค๋ ์๊ฐ์ด ๋ค์์ต๋๋ค. GNN์ด ์ด๋ป๊ฒ ์ฌ์ฉ๋๋ ์ง ๊ถ๊ธํ๋๋ฐ ์ด๋ฒ ๊ธฐํ์ ์๊ฒ ๋ผ์ ์ข์์ต๋๋ค. ํนํ Instruction ํ๋์ ํ๋ค๋ ์ ๋ ํฅ๋ฏธ๋ก์ ์ต๋๋ค! ์ข์ ๊ฒฝํ ๊ณต์ ํด์ฃผ์
์ ๊ฐ์ฌํฉ๋๋ค.
2. zero-shot semantic segmentation
zero-shot semantic segmentation์ด๋ ์๋ก์ด ๊ฒ์ ์๊ฒ ๋์ด ์ข์์ต๋๋ค! ํนํ ๋ฐ์ ํ๋ฆ์ ๋ฐํํด์ฃผ์
์ ์ดํดํ๋๋ฐ ์ข์์ต๋๋ค. ๋ฌผ๋ก ํ๋ฒ์ ์ ๋๋ก ์ดํดํ์ง๋ ๋ชปํ์ง๋ง ์กฐ๊ธ์ด๋๋ง ์ป์ด๊ฐ ์๊ฐ ์์์ต๋๋ค. zero-shot์ ์ด๋ ๊ฒ ์ฐ๋ฉด ์ฑ๋ฅ์ด ๋์์ง๋๊ฒ ์ดํด๊ฐ ๋๋ฉด์๋ ์ ๋๋ค์,, GMMN๋ถํฐ CLIP ์ฌ์ฉํ๊ธฐ๊น์ง ๋์ค์ ๊ธฐํ ๋๋ค๋ฉด ๋
ผ๋ฌธ ๋ฆฌ๋ทฐ๋ผ๋ ์ฝ์ด๋ด์ผ๊ฒ ์ต๋๋ค! ์ข์ ๋ฐํ ๊ฐ์ฌํฉ๋๋ค!
2024/09/19 10:42
1). DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
GNN, recsys์ ๊ด์ฌ์ด ๋ง์๋์ง๋ผ ํฅ๋ฏธ๋กญ๊ฒ ๋ฐํ๋ฅผ ๋ค์ ์ ์์์ต๋๋ค. multimodal llm recsys๋ผ๋ ๋ถ์ผ๊ฐ ์์๋ ๊ฒ๋ ๋งค์ฐ ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ์ง๊ธ ํ๋ก์ ํธ๋ก ํ๊ณ ์๋๊ฒ๋ multimodal recsysํํธ์ ์์์ด๋ค ๋ณด๋ ์ด๋ฒ ์ฃผ์ ๊ฐ ๋ฐ๊ฐ์ ์ต๋๋ค. ์์๋ฅผ ๋
ธ๋๋ก, ๊ฒฐํฉ์ ์ฃ์ง๋ก ํ์ฌ GNN ํ์ต์ ์ํจ๊ฒ์ด ๋๋ผ์ ์ต๋๋ค. ๋๋ฒ์งธ multimodal recsys๋ผ๋ ๋ถ์ผ๋ ์ ๊ฐ ํญ์ ๋ฌธ์ ๋ผ๊ณ ์ฌ๊ฒจ์๋ ๋ฌธ์ ๋ฅผ ์ค๋ช
ํด์ฃผ์ด ๋๋ฌด ์ข์์ต๋๋ค. ์ฑ์ฌ๋น ๋งค์ฃผ ๋ฐฉ๋ฌธ์ ์ข ๋ง์ด ๋ถ๋ฝ๋ค์
2). zero-shot sementic segmentation
์ง๊ธ ํ๋ก์ ํธ์์ zeroshot segmentation task๋ฅผ ์งํ์ค์ธ๋ฐ ํ์ฐฝ ๋งํ ํ๋ค์๋ ๋์ ์ด๋ฐ ์ฃผ์ ์ ๋ฐํ๋ฅผ ๋ฃ๊ฒ ๋์ด ์ข์์ต๋๋ค. ์ฌ๋ฌ๊ฐ์ง ๋
ผ๋ฌธ๋ค์ ์๊ฐํด์ฃผ์
จ๋๋ฐ ํ๋ฒ ์ฝ์ด๋ด์ผ๊ฒ ๋ค์. ๊ทธ์ค์์ ํนํ ์ ํ๋ก์ ํธ์์ CLIP์ ์ฌ์ฉํ๊ณ ์์ด ZegCLIP ๋
ผ๋ฌธ์ ์ฝ์ด๋ด์ผ๊ฒ ์ต๋๋ค.
2024/09/19 10:30
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
์ต๊ทผ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ์ฐ๊ตฌ๋ฅผ ์งํํ๊ณ ๋์ ์ฑ๋ฅ์ ๋ด์ด ๋
ผ๋ฌธ๊น์ง ์์ฑํ์๋ค๋ ์์์ ๋ค์ ์ ์ด ์์ต๋๋ค. ์ด์ฒ๋ผ ๋ฐํํ์ AI4Science๋ฅผ ๋น๋กฏํ์ฌ, ๋ฅ๋ฌ๋ ๋ฐ AI๊ฐ ๋ณด๋ค ๋ค์ํ ๋ถ์ผ์ ํ์ฉ๋ ์ ์๋ค๋ ์ฌ์ค์ด ์ ๋ง ๋ฐ๊ฐ์ด ๊ฒ ๊ฐ์ต๋๋ค. ๋จ์ํ NLP, CV ๋ฑ์๋ง ๊ตญํ๋๋ ๊ฒ์ด ์๋๋ผ ๊ณ ์ฐจ์์ ์ธ ์ผ์๋ ์ฌ์ฉ๋จ์ผ๋ก์จ ๋ฅ๋ฌ๋์ด ์์ผ๋ก ๋ ๋ค์ํ ๋ฐฉํฅ์ผ๋ก ๋ฐ์ ํ ์ ์์ผ๋ฉด ์ข๊ฒ ์ต๋๋ค.
2) zero-shot semantic segmentation
Zero-shot segmentation์ ๊ดํ ๋
ผ๋ฌธ๋ค์ ์ ๋ฐ์ ์ผ๋ก ์๊ฐํ์
จ์ต๋๋ค. ๋
ผ๋ฌธ์ด ๋ง์์ ๊ณต๋ถ๋์ด ๋ง์์ ๊ฒ ๊ฐ์๋ฐ ๋๋จํ์ญ๋๋คโฆ ์ฒ์ zero-shot์ ์ ํ์ ๋ ์ด๋ฐ ๋ฐฉ์์ด ์ฑ๋ฅ์ด ์ข์ ์๊ฐ ์์๊น? ์ถ์๋๋ฐ ๋๋ ์ด ๋ฐ์ ํ๋ ๋ชจ์ต์ ๋ณด๋ ์ ๊ธฐํ๊ธฐ๋ ํฉ๋๋ค. ๋ฅ๋ฌ๋์ ์ผ์์ํ์ ์ ๋๋ก ํ์ฉํ๋ ค๋ฉด ์ ์ ํ์ต๋, ๋๋ zero-shot์ผ๋ก๋ ๋์ ์ฑ๋ฅ์ ๋ด์ผ ํ๊ธฐ ๋๋ฌธ์ zero-shot์ ๋ฐ์ ์ ์ด์ฐ๋ณด๋ฉด ์๊ฒฌ๋ ๊ฒ ๊ฐ๊ธฐ๋ ํฉ๋๋ค. ์ ๋ ์ ๋๋ก ๊ณต๋ถํด๋ด์ผ๊ฒ ๋ค์! ๋ฉ์ค ์ ๋ฐฐ๋ ๋ง์ด ๋์์ฃผ์ธ์~~
2024/09/19 11:03
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
AI4Science ๋ผ๋ ๋ง์ ๊ณผํ๋ถ์ผ์ input, output ์์ด ์กด์ฌํ๋๋ฐ ์ด์ ๊ดํด AI ๊ฐ ํ์ฉ๋์ด ๋น์ฉ ํจ์จ์ ์ด๊ณ ๊ฒฐ๊ณผ๋ ์ฐ์ํ ๊ฒ์ ํ์ธํ ์ ์์์ต๋๋ค. ๋ฉ์ค ์ธํด์ ๊ด์ฌ์ด ๋ง์์๋๋ฐ ๋์ ๊น์ง ๊ฐ์ ํ๋ถ์ฐ๊ตฌ์์ ํ๊ณ ์จ ๊ฒ์ด ๋๋จํ๊ณ ๋ง์ด๋ํ ์ ์๋ ๋ถ์ผ๋ผ๋ ์์ ์ ๊ด์ฌ ์ฐ๊ตฌ๋ถ์ผ๋ฅผ ์ด์ฌํ ํ๋ ๊ฒ ๋ํ ์ค์ํ๋ค ์๊ฐํ์ต๋๋ค. ์ฑ์ฌ๋น bb
2) zero-shot semantic segmentation
์์ ํซํ zero-shot ๊ธฐ๋ฒ์
๋๋ค. ๊ธฐ๋
ผ์ค์์ CLIP ๋
ผ๋ฌธ์ ์ฝ์ด๋ดค์๋๋ฐ ๋ง์ ๋ฐ์ดํฐ์ ๊ทธ์ ๋ฐ๋ฅธ ๋ค์ํ ์ํฉ์ ์ค์ํ ์ฑ๋ฅ์ด ์๊ตฌ๋๋ ์์ฆ ์ํฉ์ ์ ๋ง ์ข์ ๊ธฐ๋ฒ์ด๋ผ ์๊ฐํฉ๋๋ค. ํนํ CV ์ชฝ์์ ์ด๋ฏธ์ง๊ฐ ๋ณํ ๋๋ ์กฐ์ ๋์ด ์
๋ ฅ์ผ๋ก ๋ค์ด์ค๊ณ ์ด๋ฅผ ๋์ํ์ฌ ๋ชจ๋ธ์ ์ผ๋ฐํ ํ๋๋ฐ ์ ์ ํ๋ค ์๊ฐํฉ๋๋ค.
2024/09/19 10:24
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ๊ณต์
LLM ๋ชจ๋ธ์ ์ฐธ ๋๋จํ ๊ฒ ๊ฐ์ต๋๋ค. ์ธ์ด ํ์ต์ ํตํด ๋ค์ํ task๋ฅผ ํด๊ฒฐํ ์ ์๋๊ฒ ์ฐธ ์ ๊ธฐํ ๊ฒ ๊ฐ์ต๋๋ค. ์ด๋ฏธ์ง๋ฅผ ์ถ๊ฐ ํ์ตํจ์ผ๋ก์ ๋ชจ๋ธ ์ฑ๋ฅ์ด ๊ธฐ์กด LLM๋ชจ๋ธ์ด๋ ๋น๊ตํ์ ๋ ์ผ๋ง๋ ๋ ์ข์์ก๋์ง ๊ถ๊ธํ๋ค์.
2) zero-shot semantic segmentation
unseen classes๋ค์ด ๋ง์๋ segmentation๋ฅผ ํ ์ ์๋ ZegFormer๊ฐ ๋๋จํ ๊ฒ ๊ฐ์ต๋๋ค. ์ฌ๊ธฐ์ clip๊น์ง ์ถ๊ฐํด์ ๊ฐ์ ํ ์ ์์๋ค๋ ๊ฒ ์ฐธ ์ ๊ธฐํ๋ฐ, ๊ธฐํ๊ฐ ๋๋ค๋ฉด clip๊ฐ ์ ํํ ์ด๋ป๊ฒ ๊ฐ์ ์ ํ๋์ง ๋
ผ๋ฌธ์ ์ฝ์ด๋ด์ผ๊ฒ ์ด์.
2024/09/19 10:33
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
AI4Science ๋ถ์ผ๋ฅผ ์๋ก ์๊ฒ ๋์ด์ ์ข์์ต๋๋ค. Multimodal LLM Recommendation๋ ์์ฃผ ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ์ฑ์ฌ๋น ๋งค์ฃผ ๋ฐฉ๋ฌธ ๋งค์ฐ ๋ถ๋ฝ๋คโฆ
2) zero-shot semantic segmentation
unseen data์ ๋ํ ์ข์ ์ฑ๋ฅ์ด ๊ฒฐ๊ตญ ๋ง์ task์์ ๊ถ๊ทน์ ์ธ ๋ชฉํ๋ผ๊ณ ์๊ฐํ๋๋ฐ, ๊ทธ๋์ ์ฌ๋ฐ๊ฒ ๋ค์์ต๋๋ค. semantic segmentation์ ์ฌ๋ฌ ์ ๊ทผ๋ฒ์ ์ ํ ์ ์์ด์ ์ข์์ต๋๋ค.
2024/09/19 10:28
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
AI4Science ๋ถ์ผ๋ฅผ ์ฒ์ ์ ํ๋๋ฐ ํฅ๋ฏธ๋ก์ด ๊ฒ ๊ฐ์ต๋๋ค,, ์ ๋ฒ ์์ด์ฟ ํค๋ ๋๊ฒ ์ํ์
จ๋ ๊ฒ ๊ธฐ์ต๋์ ๋น์ฐํ ์ปด๊ณผ์ ์ค์์๋๋ฐ ๋๋ฌด๋๋ฌด ๋๋จํ์ ๊ฒ๊ฐ์์ ๋ค์ํ ๋ถ์ผ์ ai๊ฐํ์ฉ๋๊ณ ์๋ ๊ฒ๋, ๋จธ์ ๋ฌ๋๋ ์ ์ฐ์ด๊ณ ์๋ ๊ฒ๋ ํฅ๋ฏธ๋ก์ ์ต๋๋ค ์ข์ ๊ฒฝํ ์๊ฐํด์ฃผ์
์ ๊ฐ์ฌํฉ๋๋ค
2) zero-shot semantic segmentation
zero-shot segmentation๊ณผ ๊ด๋ จ๋ ๋ค์ํ ์ฐ๊ตฌ๋ค์ ์ ์ ์์ด์ ์ข์์ต๋๋คโฆ ์ ๊ฐ ์ต๊ทผ์ segmentation task ๊ด๋ จํด์ ๊ณจ์น์ํ ์ผ๋ค์ด ๋ง์์ด์ ๋ ์ฌ๋ฐ๊ฒ ๋ค์์ต๋๋ค
2024/09/19 10:33
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
ai4science๋ผ๋ ๋ถ์ผ๋ฅผ ์ฒ์ ๋ค์ด๋ณด๋๋ฐ ๋๋ถ์ ์์๊ฐ ์ ์์ด์ ์ข์์ต๋๋ค. ๋จ๋ฐฑ์ง ํฉ์ฑ์ํค๋๋ฐ ์ธ๊ณต์ง๋ฅ์ด ์ฌ์ฉ๋๋ค๊ณ ํด์ ์ค ๊ณผํ ๋ถ์ผ์์๋ ์ธ๊ณต์ง๋ฅ์ด ํ๋ฐํ ์ฌ์ฉ๋๋๊ตฌ๋ ํ์ต๋๋ค. ์๋ค๋ ํธ๋์คํฌ๋จธ๋ฅผ ํ์ฉํ๋ค๋ ์ ์์ ํธ๋์คํฌ๋จธ ๋
์ฌ ์๋๊ฐ ์ธ์ ๊น์ง ๊ฐ ์ง ๊ถ๊ธํด์ก์ต๋๋ค.
2) zero-shot semantic segmentation
segmentation์์ฏ ์ ๋ก์ท์ผ๋ก ํ๋ ์ฐ๊ตฌ์ ์ถ์ด๋ฅผ ์ ์ ์์ด์ ์ข์์ต๋๋ค. nlp์ชฝ์์๋ ์ ๋ก์ทํ๋ ค๊ณ ํนํ gpt ๊ฐ์ ๊ฒฝ์ฐ๋ scale์ ์์ฒญ ํค์์ ๋ฌ์ฑํ๋๋ฐ, segmentation์์๋ ์ฌ๋ฌ ์์ด๋์ด๊ฐ ๋ค์ด๊ฐ๋ค๋ ์ ์์ ํฅ๋ฏธ๋ก์ ์ต๋๋ค.
2024/09/19 10:27
1. DSAIL ๋ฉ ์ธํด ๊ณต์ :
๋ฌผ์ง์ ์ํ?!๋ฅผ ๊ฒฐ์ ์ง๋ DOS๋ผ๋ ๊ฐ์ด ์๋ค๋ ๊ฑธ ์ฒ์ ์์๋๋ฐ ์ด ๊ฐ์ output์ผ๋ก ๋ด๋ ๋ชจ๋ธ์ด ์๋ค๋ ๊ฒ ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ๋ฉํฐ๋ชจ๋ฌ recommendation ์ฐ๊ตฌ ์ฃผ์ ๋ ์ ์ฉํ๊ฒ ์ฌ์ฉ๋ ์ ์์ ๊ฒ ๊ฐ์์ ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ๋ง์ด๋ํ ๋ถ์ผ์ธ๋ฐ๋ ์ด๋ฅผ ์ฐ๊ตฌํ๊ธฐ ์ํด ๋์ ๊น์ง ๋ด๋ ค๊ฐ์ ๊ณ์
จ๋ ๊ทธ๋ฐ ์ด์ ?!๊ณผ ํ์ ์ด ๋๋จํ์ ๊ฒ ๊ฐ์ต๋๋น.!
2) zero-shot semantic segmentation:
unseen data ๋ฑ์ zero-shot semantic segmentation์ ํตํด ๋ถ๋ฅํ ์ ์๋ค๋ ์ ์ด ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ๊ฐ์ฅ ์ต๊ทผ์ ๋์จ ๋
ผ๋ฌธ์ด 2019๋
์ผ๋ก zero-shot semantic segmentation๊ฐ ๋น๊ต์ ์ต๊ทผ์ ๋ฑ์ฅํ ์ฃผ์ ์ธ ๋งํผ, ์ ์ฌ์ฑ์ด ๋์ ์ฃผ์ ์ธ ๊ฒ ๊ฐ์ต๋๋ค.
2024/09/19 10:30
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ๊ณต์
AI4Science๋ผ๋ ๋ถ์ผ๋ ์ฒ์ ๋ค์ด๋ณด๋ ์์ํ ๋ถ์ผ์ธ๋ฐ, AI๋ฅผ ๊ณผํ ๋ถ์ผ์์๋ ํ์ฉํ ์ ์๋ค๋ ์ฌ์ค์ ์๊ฒ ๋์์ต๋๋ค. AI๋ ํ์ฉ ๋ถ์ผ๊ฐ ๋ฌด๊ถ๋ฌด์งํ๋ค๋ ์ ์์ ํฐ ํฌํ
์
์ ๊ฐ์ง๊ณ ์๋ค๋๊ฑธ ๋ค์ ํ๋ฒ ๋๊ผ์ต๋๋ค. multi modal์ ํ์ฉํ ์ถ์ฒ ์์คํ
๋ ํฅ๋ฏธ๋ก์ ์ต๋๋ค.
2) zero-shot semantic segmentation
์ ๋ฒ์ ๋ฐฐ์ ๋ semantic segmentation์์ ์กฐ๊ธ ๋ ๋ฐ์ ๋ ํํ์ zero shot semantic segmentation์ ๋ํด์ ๋ฐํํด์ฃผ์
จ์ต๋๋ค. unseen class์ ๋ํ segmentation์ ์ํํ๋๊ฒ ์ ๊ธฐํ์ต๋๋ค.
2024/09/19 10:30
1. DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
์๋ก์ด ๋ถ์ผ๋ฅผ ์๊ฒ ๋์ด ์ข์์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ๋ฉ์ค์์ ์ฐธ์ฌํ์
จ๋ ํ๋ก์ ํธ๋ฅผ ์ ์ค๋ช
ํด์ฃผ์
์ ์ดํดํ๊ธฐ ์ฉ์ดํ์ต๋๋ค. ๊ฒฝํ ๊ณต์ ๊ฐ์ฌํฉ๋๋ค.
2. zero-shot semantic segmentation
์ต๊ทผ zero-shot semantic segmentation์ ๊ด์ฌ์ด ์๊ฒผ๋๋ฐ, ํด๋น ์ฐ๊ตฌ๊ฐ ์งํ๋์ด์จ ํ๋ฆ์ ์๊ฒ๋์ด ์ข์์ต๋๋ค. ๊น๋ํ๊ฒ ์ ์ค๋ช
ํด์ฃผ์
์ ์ดํดํ๊ธฐ ์์ํ์ต๋๋ค. ์ธ๊ธํด์ฃผ์ ๋
ผ๋ฌธ ๋ชจ๋ ์ฝ์ด๋ด์ผ๊ฒ ์ต๋๋น!
2024/09/19 10:43
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
์ผ์ฃผ์ผ์ ํ ๊ฐ์ฉ ๋
ผ๋ฌธ์ ๊ตฌํํ์ ๊ฒ์ด ์ง์ง ๋๋จํ์ญ๋๋ค. AI for science์ ๋ํด ์ฒ์์ผ๋ก ์๊ฒ ๋์์ต๋๋ค. ๋ฉ์ค์์ ํ์ ์ฐ๊ตฌ๋ฅผ ์์ธํ ์ค๋ช
ํด์ฃผ์
์ ๊ฐ์ฌํฉ๋๋ค.
2) zero-shot semantic segmentation
CLIP๋
ผ๋ฌธ์์ ์ฒ์์ผ๋ก zero-shot learning์ ์์๋๋ฐ semantic segmentation ๋ถ์ผ์์ ํ์ฉํ ๋
ผ๋ฌธ๋ค์ ์์ธํ ์ ์ ์์ด์ ์ข์์ต๋๋ค. context๋ฅผ ํ์ฉํ์ฌ ์ฑ๋ฅ์ ๋์ธ ๊ฒ์ด ์ ๊ธฐํฉ๋๋ค. ์ด๊ธฐ ๋
ผ๋ฌธ๋ค๋ ๊ฒฐ๊ณผ๊ฐ ์ข์๋ณด์ฌ์ ๋๋์ต๋๋ค.
2024/09/19 10:33
1) DASIL
์ถ์ฒ ์์คํ
์ ๋ํด์ ์ ๊น ๊ด์ฌ์ด ์๊ฒจ์ ๊ณต๋ถ๋ฅผ ํด๋ณด๋ ค๋ค ์ง์
์ฅ๋ฒฝ์ด ๋์ ๊ฒ ๊ฐ์์ ๋๋ ค์ ๋๋ฐ, ์๊ฐ๋ณด๋ค ๊ทธ๋ ๊ฒ ์๋กญ๊ฑฐ๋ ์ง๊ธ ํ๊ณ ์๋ ์ฐ๊ตฌ์์ ํฌ๊ฒ ๋ฒ์ด๋์ง ์๋ ๊ฒ ๊ฐ์ ๊ธฐ๋ถ์ด ๋ค์ด์ ์ข์์ต๋๋ค.. ๊ทธ๋ฆฌ๊ณ ์์ดํ
ID๋ง์ ์ด์ฉํด์ ์ถ์ฒ์ ํ ์ ๋ฐ์ ์์๋ ๊ธฐ์กด ํ๊ณ๋ฅผ VLM์ ์ด์ฉํด ํธ๋ ๊ณผ์ ์ด ํฅ๋ฏธ๋ก์ ์ต๋๋ค.
2) Zero-shot semantic segmentation
์ด์ชฝ ์ ๋ก์ท ์ชฝ์ผ๋ก ๊ณ์ ์ฐ๊ตฌ๋ฅผ ํ๊ณ ๊ณ์ ๊ฒ ๊ฐ์์ ํ๋ฆ๋๋ก ๋ฐํ๋ฅผ ๋ฃ๋ ์ฌ๋ฏธ๊ฐ ์๋ ๊ฒ ๊ฐ์ต๋๋ค! ๊ทธ๋ฆฌ๊ณ segmentation์ ์ง์ ๊ตฌํํด๋ณด๊ฑฐ๋ ์ฝ๋๋ฅผ ๋ค๋ค๋ณธ ์ ์ ์์ด์ ๋์ด๋๊ฐ ์ค๊ฐ์ด ์๋์ง๋ง, ์ด๊ฑธ ์ ๋ก์ท์ ์ ์ฉํ์ฌ ์ข์ ์ฑ๋ฅ์ ๋ผ ์ ์๋ค๋ ๊ฒ ํฅ๋ฏธ๋ก์ด ๊ฒ ๊ฐ์ต๋๋ค.
2024/09/19 10:34
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
1์ฃผ์ผ์ ๋
ผ๋ฌธ 3๊ฐ ๋ฆฌ๋ทฐ์ ํ๋๋ ํ์ ๊ตฌํ์ด๋ผ๋ ๋นก์ธ๋ค์ใทใทAI4Science๋ ์๊ฐํด์ฃผ์ ๋
ผ๋ฌธ๋ ์ฒ์ ๋ค์ด๋ณด๋ ๋ถ์ผ์ธ๋ฐ ๊ทธ๋์ ๋ ์ฌ๋ฐ๋ ๊ฒ ๊ฐ์ต๋๋ค. ๊ณผํ ๋๋ฉ์ธ์ ai๋ฅผ ์ ์ฉํด๋ณด๊ณ ์ถ๋ค๋ ์๊ฐ์ alphafold ๋์์ ๋๋ถํฐ ํด๋ดค๋๋ฐ ๊ณผํ์ ๋ชฐ๋ผ์ ์ด๋ ค์ด ๊ฒ ๊ฐ๋ค์,,flamingo ํฅ๋ฏธ๋กญ๊ฒ ๋ณธ ๋
ผ๋ฌธ ์ค ํ๋์ธ๋ฐ ๋ฐ๊ฐ๋ค์ใ
ใ
ใ
ใ
ใ
2) zero-shot semantic segmentation
segmentation์ SAM๋ง๊ณ ๋ ์ ๋ชฐ๋๋๋ฐ ์ด๋ฐ ๋
ผ๋ฌธ์ด ์์๋ค์ ๊ผญ ํ๋ฒ ์ฝ์ด๋ด์ผ๊ฒ ์ต๋๋ค. segmentation์์ graph์ ํ์ฉ์ด๋ผ๋ ์ ๊ธฐํ๋ค์.
2024/09/19 10:24
1)
์ฐธ์ฌํ multimodal ํ๋ก์ ํธ๊ฐ ์ธ์ ๊น์ต๋๋ค. LLM์ ํ์ฉ๋๋ ๋ฌด๊ถ๋ฌด์งํ ๊ฒ ๊ฐ๋ค์. ..
๋์ ๊น์ง ๋ด๋ ค๊ฐ์
์ ๋ฉ ์ธํดํ์ ๊ฒ ๋๋จํ ๊ฒ ๊ฐ์ต๋๋ค. ์ฌ๋ฆ๋ฐฉํ์ ์ง์ํด๋ณผ๊น ํ๋ค๊ฐ ๋ง์๋๋ฐ, ์ข์ ๊ฒฝํ ๊ณต์ ํด์ฃผ์
์ ๊ฐ์ฌํฉ๋๋ค!
2)
unseen class๋ฅผ ๊ตฌ๋ณํ๊ธฐ ์ํ ๋ค์ํ ๋ฐฉ๋ฒ์ด ์๋ค๋ ๊ฒ ์ ๊ธฐํ๋ค์ค
2024/09/21 12:53
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
์ฐ์ ๋ฐฉํ๋์ ๋์ ์ ๋ด๋ ค๊ฐ์
์ ํ๋ถ์ฐ๊ตฌ์ ์ํ์ ํ์
จ๋ค๋ ๊ฒ ๋๋จํ์ ๊ฒ ๊ฐ์ต๋๋ค. ํ์ bioinformatics์ ๋ฅ๋ฌ๋์ ์ตํฉํ ๋ถ์ผ๋ฅผ ์ฐ๊ตฌํ๊ณ ์ถ๋ค๋ ์๊ฐ์ ํ๋๋ฐ AI4Science๋ผ๋ ๋ถ์ผ๊ฐ ๋งค์ฐ ํฅ๋ฏธ๋กญ๊ฒ ๋๊ปด์ก์ต๋๋ค. ๊ธฐํ๊ฐ ๋๋ค๋ฉด ๊ผญ DSAIL์์ ์ฐ๊ตฌ๋ฅผ ํด๋ณด๊ณ ์ถ๋ค๋ ์๊ฐ์ด ๋ค์์ต๋๋ค.
2) Zero shot semantic segmentation
ํ์ฌ segmap ๊ด๋ จ task๋ฅผ ์งํ ์ค์ธ๋ฐ ํ๋ก์ ํธ๋ฅผ ์ํด ์ฝ์๋ ๋ชจ๋ธ์ด ์๊ฐ๋์ด์ ๋ฐ๊ฐ์ ์ต๋๋ค. ์ฌํ ๋ค๋ฅธ ๋ชจ๋ธ๊ณผ๋ ๋ค๋ฅด๊ฒ ํ๋กฌํํธ๋ฅผ ๊ธธ๊ฒ ์ฃผ์ด์ ์ธ๊ทธ๋งต์ ๋ฝ์๋ด๋ ๊ฒ ์ ๊ธฐํ๊ณ ์ฌ๋ฌ ๋ฌผ์ฒด ์ค์์ ํน์ ๋ฌผ์ฒด๋ฅผ ๋ฝ์๋ผ ์ ์๋ค๋ ์ ์ด ์ ๊ธฐํ์ต๋๋ค.
2024/09/19 10:34
1) DSAIL ๋ฉ ์ธํด ๊ฒฝํ๊ณต์
GNN์ ์กฐ๊ธ ์์ํ ๋ถ์ผ์๋๋ฐ ์กฐ๊ธ์ด๋๋ง ์๊ฒ๋ ๊ฒ ๊ฐ์ต๋๋ค. ์ถ์ฒ ์์คํ
์ LMM์ด ์ด๋ป๊ฒ ํ์ฉ๋๋์ง๋ ์๊ฒ๋์ด ์ข์์ต๋๋ค.
2) zero-shot semantic segmentation
segmentation์ graph context๋ฅผ ํ์ฉํ๊ธฐ๋ ํ๋ค๋ ๊ฑธ ์๊ฒ๋์์ต๋๋ค. segmentation ๋ชจ๋ธ๋ค์ ์ด์ ๋ชจ๋ธ๊ณผ ๋น๊ตํ๋ฉฐ ์ค๋ช
ํด์ฃผ์
์ ๋ ์ ์ดํด๋ ๊ฒ ๊ฐ์ต๋๋ค. Zegformer์ ๊ฒฐ๊ณผ๊ฐ GT๋ณด๋ค ๋ ๋งค๋๋ฌ์ด๊ฒ ์ ๊ธฐํ๋ค์
2024/09/19 10:30
1. DSAIL ๋ฉ์ธํด
AI4Science๋ผ๋ ๊ฒฐ์ ๊ตฌ์กฐ์ ๊ด๋ จ๋ ๋ค์ ์์ํ ๋ถ์ผ์ ๋ํด์ ๊ฐ๋ตํ๊ฒ๋๋ง ์ ์ ์์ด ์ ์ตํ ์๊ฐ์ด์์ต๋๋ค. ์ด์ธ์๋ Multi-Modal LLM์ ์ถ์ฒ ์์คํ
์ ์ ์ฉํ ์ ์๋ ๋ฐฉ๋ฒ์ ๋ํด์๋ ์ ์ ์์์ต๋๋ค ใ
ใ
๋ฌธ๊ณผ ์ถ์ ์์๋ ํ๊ณ ์ถ์ ์ผ์ ์ํด ๋์์์ด ๋
ธ๋ ฅํ์๋ ๋ชจ์ต์ด ๋ฉ์๋ ๊ฒ ๊ฐ์ต๋๋ค!
2. Zero-shot Semantic Segmentation
unseen ๋ฐ์ดํฐ์ ๋ํ segmentation์ ์ ์ฉํ ์ ์๋ ๋ฐฉ๋ฒ๋ก ์ธ ZS3Net์ CaGNet์ ๋ํด์ ์ ์ ์์์ต๋๋ค. ํนํ ๋ฌธ๋งฅ์ ๊ด๊ณ๋ฅผ ๊ณ ๋ คํ์ฌ Segmentation์ ์ ์ฉํ CaGNet์ด ํฅ๋ฏธ๋ก์ ์ต๋๋ค. ์ด์ธ์๋ ํฝ์
๋จ์๋ก segmentํ๋๊ฒ ์๋ ๊ทธ๋ฃน ๋จ์๋ก segmentํ๋ ZegFormer, ZegClip์ ๋ํด์ ์ ์ ์์ด ์ ์ตํ ์๊ฐ์ด์์ต๋๋ค. ๋ง์ ๋
ผ๋ฌธ ๋ฆฌ๋ทฐํ์๋๋ผ ์ ๋ง ์๊ณ ๋ง์ผ์
จ์ต๋๋ค~!!! :)
2024/09/19 10:33
1. DSAIL ๋ฉ์ธํด
AI4Science ๋ถ์ผ๋ ๋ถ์ผ ์์ฒด๋ฅผ ์ฒ์ ๋ค์ด๋ด์ ์์ํ๊ธฐ๋ ํ์ง๋ง, ํด๋น ์ฐ๊ตฌ์ค์์ ์ด๋ค ์ผ๋ค์ ํ๊ณ ๊ณ์๋์ง, ์ด๋ค ๋ถ์ผ๊ฐ ๊ด์ฌ ์์ผ์
์ ๋์ ๊น์ง ๊ฐ๊ฒ ๋์
จ๋์ง, ๊ฒฐ์ ์์๋ฅผ ๋ค์ด ํด๋น ๋ถ์ผ๊ฐ ์ด๋ค ๊ฒ๋ค์ ํ๋ ๊ฒ์ธ์ง ์์ธํ ์ค๋ช
ํด์ฃผ์
์ ์ดํดํ๊ธฐ ํธํ์ต๋๋ค. ๊ฐ์ธ์ ์ผ๋ก๋ ๊ณผํ์ ์ํ AI๋ผ๋ ๋ถ์ผ ์์ฒด๊ฐ ๋
๋ฆฝ์ ์ผ๋ก ์ฐ๊ตฌ๋๊ณ ์๋ ์ ๋ ์ ๊ธฐํ์ต๋๋ค.
2. zero-shot semantic segmentation
๊ด๋ จ ๋ถ์ผ์ ๋ํ ๋ฐฐ๊ฒฝ ์ง์ ๋ถ์กฑ์ผ๋ก ๋ง์ ๋ด์ฉ๋ค์ ์ดํดํ๊ธฐ์๋ ํ๋ค์์ง๋ง zero-shot learning ๋ถ์ผ์ ๋ํด ํ ๋
ผ๋ฌธ์ด ์๋๋ผ ๋ค์ํ ๋
ผ๋ฌธ์ ๋ณํ ์์๋ค์ ์์ฃผ๋ก ์ค๋ช
ํด์ฃผ์
์ ๊ฐ๋
์ ์ธ ๋ถ๋ถ๋ค์ ๋ํด์๋ ๋ง์ด ์ป์ด๊ฐ ์ ์์์ต๋๋ค. ๊ฐ์ฌํฉ๋๋ค!
2024/09/19 10:34
1. DSAIL ๋ฉ์ธํด
์ ๊ฐ ๋ค์ด๊ฐ์๋ ๋ฉ์ค ๊ต์๋์ interest์ ๋ง์ด ๋น์ทํด์ ์ ๊ธฐํ์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ AI4Science๋ผ๋ ๋ถ์ผ๋ ์ฒ์ ๋ค์ด๋ดค๋๋ฐ ์ธ๊ณต์ง๋ฅ์ด ๊ณผํ, ํนํ ์์ฐ๊ณผํ์์ ์ ์ฉํ๊ฒ ํ์ฉ๋ ์ ์๋ค๋ ๊ฒ์ด ์ ๊ธฐํ์ต๋๋ค. ์ข์ ๊ฒฝํ๊ณต์ ๊ฐ์ฌํฉ๋๋ค!
2. zero-shot semantic segmentation
Zero-shot semantic segmentation์ ๋ํ ๋ค์ํ ๋
ผ๋ฌธ๊ณผ ์ฐ๊ตฌํ๋ฆ์ ์๊ฐํด์ฃผ์
์ ์ ์ตํ์ต๋๋ค. CLIP ๋ฐ GNN์ ํตํ ๊ทธ๋ํ ์ธ์ฝ๋ฉ์ด ์ธ๊ทธ๋ฉํ
์ด์
์์
์์ ์ด๋ป๊ฒ ํ์ฉ๋๋์ง์ ๋ํ ์ค๋ช
์ด ํฅ๋ฏธ๋ก์ ์ผ๋ฉฐ, ZegCLIP ๋
ผ๋ฌธ๋ ๊ผญ ํ ๋ฒ ์ฝ์ด๋ณด๊ณ ์ถ๋ค์! ์ข์ ๋ฐํ ๊ฐ์ฌํฉ๋๋ค:)
2024/09/19 11:45
1 DSAIL ๋ฉ์ธํด
์๋ก์ด ๋ถ์ผ์ ๋ํด์ ์์๊ฐ ์ ์์๋ ๋ฐํ์๋ ๊ฒ ๊ฐ์ต๋๋ค. ๊ด์ฌ ์๋ ๋ถ์ผ์ ๋ํด ์ฐ๊ตฌํ๊ธฐ ์ํด์ ๋์ ๊น์ง ๋ด๋ ค๊ฐ์ ์ธํด ์ํ์ ํ์ ๊ฒ์ด ๋๋จํ์ ๊ฒ ๊ฐ์ต๋๋ค! ์ข์ ๋ฐํ ๊ฐ์ฌํฉ๋๋ค :)
2. zero-shot semantic segmentation
Zero-shot learning์ ๋ํด์ ํ ๊ฐ์ง๊ฐ ์๋ ์ฌ๋ฌ ๊ฐ์ง ๋
ผ๋ฌธ์ ์ด์ฉํด์ ์ค๋ช
ํด์ฃผ์
์ ๋ ์ ์ดํด๊ฐ ๋ ๊ฒ ๊ฐ์ต๋๋ค. ์ข์ ๋ฐํ ๊ฐ์ฌํฉ๋๋ค !! :)
2024/09/19 10:34
DSAIL ๋ฉ ์ธํด ๊ฒฝํ ๊ณต์
GNN์ ์ข์ํ์๋ ์ง ๋ชฐ๋๋ค์. ํ ๋ฒ์ฉ ๋
ผ๋ฌธ์์ ๋์ค๋ฉด ์ด๋ ค์๊ฐ์ง๊ณ ๋๊ฒผ๋๋ฐ ๋ฉ์ง๋๋ค. ์์ฐ๊ณผํ ๋ถ์ผ์์ ๋จธ์ ๋ฌ๋์ ํ๋ ๋ฉ์ด ์ฐ์
๊ณตํ๊ณผ์ ์๋ ๊ฒ์ด ์ ๊ธฐํฉ๋๋ค. kaist..์ ๋ ๊ฐ์ ์ผํด๋ณด๊ณ ์ถ๋ค์!
Zero-shot semantic segmentation
์ฒซ ์์๋ถํฐ ํ์ฌ๊น์ง์ ์ฐ๊ตฌ๋ฅผ ํ ๋ฒ ํ์ผ์ ๊ฒ์ด ์ฌ๋ฐ์์ต๋๋ค. ์ฑ๋ฅ์ด ์ซ์ซ ์ฌ๋ผ๊ฐ๋ ๊ฒ ์ธ์ ๊น๋ค์. ์ด๋ฒ CVPR 2024์๋ ํ๋ ๋์จ ๊ฑธ๋ก ์๋๋ฐ ์ฐธ๊ณ ํด๋ณด์๋ฉด ์ข์ ๊ฒ ๊ฐ์ต๋๋ค! ์ฌ๋ฐ๋ ๋ฐํ์์ต๋๋ค!
2024/09/19 11:35
1.
์นด์ด์คํธ ๋ฉ์ธํด ใทใทใท ๋๋จํ์ญ๋๋ค,,, ์์ฐ๊ณผํ์์ ํ๊ธฐ ์ด๋ ค์ ๋ ๋ฌธ์ ๋ฅผ ํ๊ธฐ ์ํ ๋๊ตฌ๋ก์จ์ ๋ฅ๋ฌ๋์ด ์ถํ AI๊ฐ ๋์๊ฐ ๋ฐฉํฅ์ฑ ์ค ํฐ ์์ญ์ด๋ผ๊ณ ์๊ฐํ๋๋ฐ, ๊ทธ๊ฑธ ์ฐ๊ตฌํ์ ๋ค๋ ๋ฏธ๋๊ฐ ์ฐฝ์ฐฝํ์ ๊ฒ ๊ฐ์ต๋๋ค. GNN์ผ๋ก ์ด๋ค ๋ถ์ผ์ ๋ฌธ์ ๋ฅผ ํธ๋ ๊ฑธ ๊ด์ฌ์์ดํ์๋์ง ๊ถ๊ธํด์!
2.
์ฐ๊ตฌ์ ์ญ์ฌ๋ฅผ ๋ค ํ๋๊ฒ ์ด๋ ค์ด๋ฐ โฆ ํ ๋ถ์ผ์ ํ๋ฆ์ ์ด๋ ๊ฒ ๋ค ์ง์ด์ฃผ์๋๊ฒ ๋๋จํ๋ค๊ณ ์๊ฐํ์ต๋๋ค. ์ฒ์ ๋ฃ๋ ๋ถ์ผ์๋๋ฐ ๋ง์ด ๋ฐฐ์๊ฐ๋ ๊ฒ ๊ฐ์ต๋๋ค! ๊ด์ฌ์๊ฒ ๋ค์ ๋ถ๋ถ๋ค๋ง ๋ฐ๋ก ์ ๊ฐ ์ฐพ์๋ณด๋ฉด ๋์์ด ๋ง์ด ๋ ๊ฒ ๊ฐ์ต๋๋ค.
2024/09/19 10:34
Load more