ABOUT
ABOUT
인사말
안녕하십니까? AI 안전연구소 SAIL 홈페이지 방문을 환영합니다.
AI는 4차 산업혁명의 거센 흐름 속에서 우리 사회의 혁신과 발전을 이끄는 핵심 동력으로 자리 잡고 있습니다.
AI 기술이 빠르게 확산되면서 우리의 일상과 산업 전반이 더욱 편리하고 효율적으로 변화하고 있지만, 동시에 무분별한
활용으로 인한 피해 사례 역시 급속도로 증가하고 있습니다.
그렇기에 AI의 안전성과 신뢰성에 대한 사회적 요구 역시 더욱 높아지고 있습니다.
이러한 시대적 흐름에 대응하기 위해 설립된 저희 AI 안전연구소는 AI가 인류에게 최대의 가치를 제공하는 과정에서
오작동, 윤리적 편향 등 기술에 내재된 위험을 철저히 관리하여 안전한 미래를 만들어가는 것을 목표로 하고 있습니다.
특히 저희 연구소는 AI 시스템 위험관리, AI 가드레일, AI-Based 위험 예측과 대응, AI 윤리와 데이터 거버넌스 등
4가지 핵심 연구 분야에 집중하여 기술적 안전 기준과 사전 인증 체계를 정립하고, AI 시스템 운영의
안정성과 신뢰성을 근본적으로 확보하고자 합니다.
저희 AI 안전연구소는 AI를 사용하는 모든 국민이 안심하고 신뢰할 수 있는 미래를 열어가기 위해 최선을 다하겠습니다.
안전한 AI 시대를 향한 이 중요한 여정에 여러분의 지속적인 관심과 응원을 부탁드립니다.
감사합니다.
AI 안전연구소 연구소장 오 경 석
연구 분야 및 핵심 과제
AI 시스템 위험관리
AI 시스템 안전 진단 및 영향성&위험성 평가
AI 가드레일
유해성 및 적대적 공격 방어를 위한 출력 검증 가드레일 개발
AI-Based
위험예측과 대응
AI 기반 이상 행동 및 사회적 위험 예측 시스템 개발
AI 윤리와
데이터거버넌스
데이터의 신뢰성과 윤리적 활용을 고려한 AI 거버넌스 정책 연구
연구 협력 네트워크 구축
AI 안전연구소는 행정안전부, 경찰청, 과기정통부 산하 인공지능 안전연구소, NIA 등 국내 공공기관과 긴밀히 협력하며,
KAIST, 서울대학교, 성균관대학교 등 국내 외 대학과 협력연구 네트워크를 구축하고 있습니다.
연구 성과 및 사회적 기여
고위험 공공 AI 시스템에 대한 기술적 안전 점검 기준과 사전 인증 체계를 정립하여
AI 시스템 운영의 안정성과 신뢰성을 근본적으로 확보합니다.
AI 가드레일 (AI의 오작동 및 유해한 행동을 실시간으로 감지하고 차단하는 능동적 제어 기술)을 개발하여
AI의 운영 안전 범위를 보장하고 잠재적 위험을 선제적으로 통제합니다.
공공 데이터 기반의 지능형 위험 예측 모델과 실시간 대응 프로토콜을 개발하여
재난·범죄 대응의 골든타임을 확보하고 공공 안전 자원의 활용 효율성을 극대화합니다.
AI 윤리 영향성 평가(AIA) 가이드라인 및 투명한 데이터 거버넌스 체계를 확립하여
AI의 편향과 차별을 방지하고 국민에게 신뢰받는 인간 중심의 AI 활용 환경을 조성합니다.
AI 안전연구소 SAIL
경상북도 경산시 대학로 280 영남대학교 사회과학관 B05
EMAIL : jason.oh@saferbyai.com