Open-ended Alignment 인공지능 연구센터
성균관대학교 센터장 : 이지형
- 센터소개
-
설립 목적
변화하는 환경과 가치에서 추론 능력을 기반으로 스스로 발전하여 문제를 해결함과 동시에, 공정성, 신뢰성, 개인 맞춤화 등 변화하는 다양한 사회적 개념에 지속 부합하는 Open-ended Alignment 인공지능 모델 연구개발을 수행하고자 함
연구 기간
2024-07-01 ~ 2031-12-31
연구 분야
본 사업단은 4개의 O.P.E.N. (Out-thinking AI, Principled AI, Evidential AI, Nuanced AI) 연구 분야를 중심으로 연구 그룹을 조직하고, 각 연구팀은 관련분야의 핵심전문가 및 다학제 연구진으로 구성하였음
이를 통해 변화하는 사회에서 지속발전 가능한 Open-ended Alignment AI 원천기술을 확보함과 동시에 세계적으로 해당 분야를 선도할 수 있는 글로벌 연구 역량을 갖춘 인재를 양성하고자 함연구 인력
대학 교수 참여 학생 전임연구원 산학협력
중점교수
산업체 기타
(연구원,연구교수)
합계 학부 석사 박사 10 12 28 37 2 1 4 - 94
- 참여기업
-
포티투마루 기업 소개 - 생성형 AI 스타트업 기업
사업 영역 - 초거대 언어모델의 단점인 환각(hallucination)현상을 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42와의 엔지니어링으로 완화
- 기업용 Private 모드를 지원하여 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 안전하게 초거대 인공지능을 활용
- 전문 산업 분야에 특화한 경량화 모델을 구현
- 연구목표
-
변화하는 환경 속에서 스스로 발전하여 문제를 해결함과 동시에 공정성, 신뢰성, 개인 맞춤화 등 다양한 사회적 가치에 지속 부합하는 Open-ended Alignment 인공지능 기술 선도
세부 과제
-
01
-
절대 지향적 추론 모델
- Semanti-aware LLM
- 수학적 이해 능력 기반 기술
- 실시간 Self-guidance
-
절대 지향적 추론 모델
-
02
-
자기지도학습 융합 평생학습
- 변화 기반 사후 학습
- 공정성을 위한 Knowledge prompt
- 사회적 책임 결합·법령 가이드라인 자동화
-
자기지도학습 융합 평생학습
-
03
-
Post-truth 탐지 및 차단
- Multimodal-reasoning
- 사회과학적 지식 신뢰성 분석
-
Post-truth 탐지 및 차단
-
04
-
개인맞춤형 페르소나 반영
- 멀티모달 페르소나 기술
- 실시간/상호작용 멀티모달 프롬프트
-
개인맞춤형 페르소나 반영
연구수행 방법
기대 효과
-
01