과학기술정보통신부(부총리 겸 과학기술정보통신부장관 배경훈, 이하 ‘과기정통부’)는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 ｢국가연구개발 AI 연구윤리 가이드｣(이하 ‘가이드’)가 확정됐다고 밝혔다.

AI의 발전과 확산이 빨라지면서, 그 영향은 개별 연구뿐만 아니라 국가연구개발 생태계 전반에 미치고 있다. AI가 연구 전 과정에 도입되며 연구 생산성이 획기적으로 향상되고 있지만, 부정확한 정보 생성의 위험, 기존 자료의 편향 답습, 보안·개인정보 유출, 출처 미상 자료의 부적절한 인용 등 새로운 유형의 연구윤리 위험을 수반하고 있어, 국가 차원의 대응 기준 마련의 필요성이 제기되었다.

가이드는 연구자가 국가연구개발 수행의 모든 단계에서 AI를 책임감 있고 윤리적으로 활용할 수 있도록 지원하는 것을 목표로 마련되었다.

가이드 주요 내용

"국가연구개발에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다"는 기본원칙 아래, 연구자가 지켜야 할 7대 권고사항을 제시한다.

7대 권고사항은 ▲사실관계 검증, ▲주체적 판단, ▲투명성 확보, ▲결과 신뢰성 관리, ▲정책·규정 준수, ▲보안 확보, ▲개인정보 보호이며, 주요 내용은 다음과 같다.

｢국가연구개발 AI 연구윤리 가이드｣ 7대 권고사항

① 사실관계 검증: AI 생성물의 오류, 핵심자료의 누락, 출처의 존재 및 진위 등을 검증해야 함

② 주체적 판단: AI가 생성한 자료 활용 시 논리적 타당성과 전문 지식에 따라 검토하고, 자신의 관점을 반영하여 재구성해야 함

③ 투명성 확보: 연구과정 전반에 AI를 활용한 경우 모델·버전, 목적·범위 등을 투명하게 공개해야 함

④ 결과 신뢰성 관리: AI를 활용하더라도 연구개발 성과의 구현과정을 논리적으로 설명할 수 있어야 함

⑤ 정책·규정 준수: AI 활용 시 연구개발기관의 관련 규정이나 지침, 가이드 등을 확인하고 준수해야 함

⑥ 보안 확보: 연구개발기관은 제도적·기술적 보안 환경을 마련해야 하고, 연구자는 연구개발기관이 허가한 보안 환경 내의 도구를 사용해야 함

⑦ 개인정보 보호: 개인정보가 포함된 자료는 AI 서비스에 입력하지 않도록 주의해야 함

아울러, 국가연구개발 과제 평가 및 논문 심사 시 ▲평가자는 대상 자료를 외부 AI에 입력하지 않고 전문성에 기반한 주체적 평가를 수행해야 하며, ▲피평가자는 AI를 활용하여 정당한 심사 기준을 회피하거나, 평가를 왜곡하려는 시도(은닉 프롬프트 등)를 해서는 안 됨을 명시하였다.

가이드는 현장 활용을 돕기 위해 연구자 스스로 점검할 수 있는 ‘연구자 자가진단표’와 연구개발과제 보고서 등 제출 시 활용할 수 있는 ‘AI 활용 여부 공개 서식’도 함께 제공하고 있다.

홍순정 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며, "이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고, 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 밝혔다.

가이드의 내용은 과기정통부 누리집(https://www.msit.go.kr, 정책·통계>정책정보>과학기술혁신)과 한국과학기술기획평가원 누리집(https://www.kistep.re.kr)를 통해 확인할 수 있다.

과기정통부는 가이드와 해설서를 각 연구개발기관에 안내하고 누리집에 게시하는 한편, 현장 의견을 지속적으로 수렴하여 보완해 나갈 계획이다.

담당 부서

담당 부서는 성과평가정책국이며, 책임자는 과 장 최부용(전화: 044-202-6970)이고, 연구윤리권익보호과의 담당자는 사무관 이정원(전화: 044-202-6971)이다.

관련 기관으로는 한국과학기술기획평가원이 있으며, 책임자는 센터장 서지현(전화: 043-750-2449)이고, 연구윤리자산보호센터의 담당자는 부연구위원 정한별(전화: 043-750-2651)이다.