대학정보통신연구센터협의회

센터소개

설립 목적

AI를 활용한 콘텐츠 생성이 일상과 산업 전반으로 확산됨에 따라, 생성형 AI 기술로 제작된 이미지나 음성 등이 딥페이크나 허위 정보 유포 등 다양한 사회적·경제적 문제를 야기하는 사례가 급격히 증가하고 있습니다. 본 기관은 이러한 기술 악용에 선제적으로 대응하기 위해 기술적 고도화를 연구기관에서 수행하고 인프라 개발을 기업에서 수행함으로써 현재 시장에 제시된 사회적, 경제적 문제를 억제하고 기존의 기술적 한계를 극복하여 탐지 및 추적 성능을 고도화하고자 합니다. 이를 통해 기술적 해결책을 제시하고, 생성 AI의 역기능에 효과적으로 대응할 수 있는 전문 인재를 양성하는 데 기여하고자 합니다.

연구 기간

2024-07-01 ~ 2031-12-31

연구 분야

인공지능, 산업보안/융합보안, 서비스/응용보안

연구 인력

대학 교수	참여 학생	전임연구원	산학협력 중점교수	산업체	기타 (연구원,연구교수)	합계
학부	석사	박사
9	2	70	47	3	-	22	2	155

대학 교수

참여 학생

전임연구원

산학협력

중점교수

산업체

기타

(연구원,연구교수)

합계

학부

석사

박사

9

2

70

47

3

-

22

2

155

참여기업

라온데이터	기업 소개	라온데이터 대표 최성은 현재 성균관대학교 인공지능 융합학과 석사 졸업 후 박사과정 중에 있으며, 인공지능 분야 관련 3년 이상의 경력을 보유하고 있음
라온데이터	사업 영역	라온데이터는 최근 5년 간 인공지능 관련 대회에서 다수 수상 경험이 있음
올빅뎃	기업 소개	6년 동안 80여 개가 넘는 민, 관, 공공, 국책연구소 대상으로 AI 및 빅데이터 관련 컨설팅과 맞춤형 솔루션 개발, 인공지능 모델 고도화 작업을 수행
올빅뎃	사업 영역	국가 R&D를 통해 자연어처리 관련 대형 프로젝트를 성공적으로 수행한 바 있으며, 비전 관련 학습셋 설계부터 납품까지 인공지능의 E2E (End-to-End) 업무를 담당

연구목표

디스인포메이션&딥페이크 탐지/추적 기술 개발을 통해 건전한 생성 AI 기술의 발전을 위한 공공 및 민간 서비스 플랫폼(SaaS) 구축 및 오픈

세부 과제

01
- 디스인포메이션 탐지 및 전파 추적을 통한 차단 시스템 개발
  - 디스인포메이션 탐지 기술 선행 연구 조사 및 구현
  - 생성 AI콘텐츠 전파 추적 기술 선행연구 및 데이터 분석
  - 생성 AI 콘텐츠의 사회적 악용사례 연구
02
- 딥페이크 콘텐츠 생성 및 탐지 시스템 개발
  - 딥페이트 기술 동향 분석
  - 딥페이크 생성 및 탐지 선행 기술 파악
  - 딥페이크 데이터셋 구축을 위한 기초 데이터 수집
  - 자체 딥페이크 모델을 이용한 데이터 확장
  - 딥페이크 탐지 모델 개발을 위한 베이스라인 모델 구현 및 실험
  - 딥페이크 탐지 모델 구축 및 탐지 성능 달성
03
- 혁신도약형과제 #1 안전성.공정성 기반 딥페이크 탐지 기술 및 감사 프레임워크 개발
  - 딥페이크 탐지 일반화 및 강건성 성능 평가 선행 연구 조사
  - 적대적 공격 방법론 기반의 딥페이트 생성 방어 기술 개발
04
- 혁신도약형과제 #2 다양한 도메인 유형에 강건한 딥페이크 모델 추론 및 개발
  - 멀티모달 딥페이크 생성 및 탐지 최신 동향 조사
  - 딥페이크 생성 및 탐지, 추론을 위한 데이터셋 수집
05
- (공공) 딥페이크 탐지 서비스 플랫폼 기술 개발
  - 기존 딥페이크 탐지 서비스 성능 및 취약점 분석
  - 딥페이크 탐지 서비스 플랫폼 설계 및 개발 환경 구축
  - 기보유 딥페이크 모델을 활용한 딥페이크 탐지 서비스 프로토타입 개발
06
- (민간) 디스인포메이션 및 딥페이크 탐지 추적 SaaS 솔루션 개발
  - 서비스 대상 및 목적 정의
  - 기술 이식 협의 채널 활성화
  - 서비스 솔루션 기술 이식성 확보

연구수행 방법

기대 효과

연구센터소개

딥페이크 연구센터