대학정보통신연구센터협의회

센터소개

설립 목적

일상생활과 산업에서 인공지능을 이용하여 콘텐츠를 생성하는 서비스가 급격하게 늘어나고 있다. 급격한 기술 개발과 함께 생성 AI 기술을 통해 생성한 이미지, 텍스트, 음성, 비디오 등을 이용하여 다양한 사회적 문제를 일으키고 경제적.산업적 문제를 일으키는 경우가 급격히 증가하였다. 이러한 생성 AI 기술의 발전으로 그에 따른 악용 사례가 늘어나는 추세이며 생성 AI의 악용 사례인 딥페이크와 디스인포메이션 전파의 대응 기술의 발전이 요구되어 디스인포메이션 전파 시뮬레이터 개발을 통해 기존 한계점을 극복하는 디스인포메이션 전파 환경을 구축하고 탐지.추적 성능을 향상하고자 한다. 또한, 세부적이고 특화된 기술적 솔루션을 개발에 기여 및 생성AI의 역기능에 대응 할 수 있는 인재를 양성하고자 한다.

연구 기간

2024-07-01 ~ 2031-12-31

연구 분야

인공지능, 산업보안/융합보안, 서비스/응용보안

연구 인력

대학 교수	참여 학생	전임연구원	산학협력 중점교수	산업체	기타 (연구원,연구교수)	합계
학부	석사	박사
9	1	40	16	1	-	18	5	90

대학 교수

참여 학생

전임연구원

산학협력

중점교수

산업체

기타

(연구원,연구교수)

합계

학부

석사

박사

9

1

40

16

1

-

18

5

90

참여기업

라온데이터	기업 소개	라온데이터 대표 최성은 현재 성균관대학교 인공지능 융합학과 석사 졸업 후 박사과정 중에 있으며, 인공지능 분야 관련 3년 이상의 경력을 보유하고 있음
라온데이터	사업 영역	라온데이터는 최근 5년 간 인공지능 관련 대회에서 다수 수상 경험이 있음
올빅뎃	기업 소개	6년 동안 80여 개가 넘는 민, 관, 공공, 국책연구소 대상으로 AI 및 빅데이터 관련 컨설팅과 맞춤형 솔루션 개발, 인공지능 모델 고도화 작업을 수행
올빅뎃	사업 영역	국가 R&D를 통해 자연어처리 관련 대형 프로젝트를 성공적으로 수행한 바 있으며, 비전 관련 학습셋 설계부터 납품까지 인공지능의 E2E (End-to-End) 업무를 담당

연구목표

디스인포메이션&딥페이크 탐지/추적 기술 개발을 통해 건전한 생성 AI 기술의 발전을 위한 공공 및 민간 서비스 플랫폼(SaaS) 구축 및 오픈

세부 과제

01
- 디스인포메이션 탐지 및 전파 추적을 통한 차단 시스템 개발
  - 디스인포메이션 탐지 기술 선행 연구 조사 및 구현
  - 생성 AI콘텐츠 전파 추적 기술 선행연구 및 데이터 분석
  - 생성 AI 콘텐츠의 사회적 악용사례 연구
02
- 딥페이크 콘텐츠 생성 및 탐지 시스템 개발
  - 딥페이트 기술 동향 분석
  - 딥페이크 생성 및 탐지 선행 기술 파악
  - 딥페이크 데이터셋 구축을 위한 기초 데이터 수집
  - 자체 딥페이크 모델을 이용한 데이터 확장
  - 딥페이크 탐지 모델 개발을 위한 베이스라인 모델 구현 및 실험
  - 딥페이크 탐지 모델 구축 및 탐지 성능 달성
03
- 혁신도약형과제 #1 안전성.공정성 기반 딥페이크 탐지 기술 및 감사 프레임워크 개발
  - 딥페이크 탐지 일반화 및 강건성 성능 평가 선행 연구 조사
  - 적대적 공격 방법론 기반의 딥페이트 생성 방어 기술 개발
04
- 혁신도약형과제 #2 다양한 도메인 유형에 강건한 딥페이크 모델 추론 및 개발
  - 멀티모달 딥페이크 생성 및 탐지 최신 동향 조사
  - 딥페이크 생성 및 탐지, 추론을 위한 데이터셋 수집
05
- (공공) 딥페이크 탐지 서비스 플랫폼 기술 개발
  - 기존 딥페이크 탐지 서비스 성능 및 취약점 분석
  - 딥페이크 탐지 서비스 플랫폼 설계 및 개발 환경 구축
  - 기보유 딥페이크 모델을 활용한 딥페이크 탐지 서비스 프로토타입 개발
06
- (민간) 디스인포메이션 및 딥페이크 탐지 추적 SaaS 솔루션 개발
  - 서비스 대상 및 목적 정의
  - 기술 이식 협의 채널 활성화
  - 서비스 솔루션 기술 이식성 확보

연구수행 방법

기대 효과

참여사업

딥페이크 연구센터