IAAE 인공지능 윤리 헌장

The AI Ethics Charter of the IAAE


본 헌장은 2019년 10월 23일에 제정 및 공포되었으며, 전 세계 어떤 개인, 기업, 단체도 출처를 밝힌 후 자유롭게 인용 및 사용할 수 있습니다. 헌장은 현재 시점을 반영한 완료본이며, 이후 지속적으로 수정 및 업데이트 될 수 있습니다.

IAAE 국제인공지능윤리협회


 

인공지능 윤리 헌장

The AI Ethics Charter


 

 


서문


우리는 인류 전체의 역사를 비추어 가장 급변하는 시기에 서 있습니다. 기술이 급격히 발달하면서 인류의 사회, 경제, 문화, 생활환경 등에 커다란 변화가 일어나고 있습니다. 그 중심에 인공지능 기술이 있으며 이미 인공지능 기술은 우리 생활에 깊숙이 자리를 잡고 있습니다.

 

하지만 인공지능 기술은 여타 기술들과 달리 인류에 미치는 영향력과 파급력이 막대합니다. 지금까지 불가능하다고 여겨졌던 많은 일들이 인공지능 기술에 의해 실현되고 있으며, 인공지능 기술은 사용의 목적과 방법을 달리할 때 인간과 지구환경, 생태계에 심각한 피해를 야기할 수 있습니다.

 

아직까지는 인공지능이 인간의 통제 하에 있지만 가속화하는 기술의 발달은 인공지능이 인간의 통제를 벗어날 수 있다는 우려를 낳습니다. 따라서 우리는 인공지능의 역작용과 위험성을 인지하고 그에 대응하는 방안을 모색하고 실천하는 것이 무엇보다 필요합니다.


인공지능 기술은 인공지능 윤리와 함께 나아갈 때 안전한 이용이 담보될 수 있으며, 우리는 인공지능의 안전과 윤리 문제를 해결해 나가면서 인공지능 기술을 발전시켜야 합니다.

 

이러한 시점에서 본 헌장은 전 세계와 인류 차원에서 인공지능의 안전을 확보하고 인공지능이 인류의 행복과 편리를 위한 도구로 사용될 수 있도록, 다음과 같은 원칙을 각국의 정부, 기업, 단체, 개인에게 적용되는 공통된 기준으로 공포하고자 합니다.


 

원칙


제 1장 인간과 인공지능의 관계

 제1조. 인공지능은 인간을 편리하고 행복하게 하기 위한 도구이다.

 제2조. 인공지능은 인간의 존엄성과 인류 보편의 가치를 존중해야 한다.

 제3조. 인공지능은 인간에게 절대 해를 끼쳐서는 안 된다.

 제4조. 인공지능은 인간의 통제 하에 만들어지고 사용되어야 한다.

 제5조. 인공지능은 인간의 선한 본성을 추구해야 한다.

 제6조. 인공지능은 인간과 동등한 수준의 의사결정 권한, 특히 옳고 그름의 판단권한을 가질 수 없다.

 제7조. 인공지능의 어떤 의사결정도 인간에 의해 수정되거나 취소될 수 있다.

 

제 2장 선하고 안전한 인공지능

 제8조. 전쟁과 인명 살상 목적의 인공지능은 절대 만들어서는 안 된다.

 제9조. 인공지능 기술과 알고리즘은 인류 보편의 가치에 반할 수 없다.

 제10조. 인공지능 기술과 알고리즘에 불안전한 요소가 발견 시 즉각 수정되어야 한다.

 제11조. 인공지능 기술과 알고리즘은 기록과 문서화에 의해 투명하게 관리되어야 한다.

 제12조. 인공지능 기술, 알고리즘, 데이터들은 외부 공격에 방어할 수 있는 강력한 보안체계를 유지해야 한다.

 제13조. 인공지능에 학습되는 빅데이터는 신뢰할 수 있고, 편향적이지 않으며, 합법적이어야 한다.

 제14조. 빅데이터 수집 시 합법적인 절차에 따라야 하며 개인의 프라이버시를 침해하지 않아야 한다.

 제15조. 인공지능 사용 환경에 노출 시 자율적 선택권이 보장되어야 하며 종속되거나 강제 되지 않아야 한다.

 제16조. 인공지능 제품과 서비스에는 비상용 킬스위치를 반드시 내장해야 한다.

 제17조. 인공지능 제품과 서비스는 출시 전 충분히 반복된 품질검사를 거쳐야 한다.

 제18조. 인공지능 제품과 서비스는 출시 전 중립적인 인공지능윤리위원회의 검수 및 검증을 거쳐야 한다.

 제19조. 인공지능 제품과 서비스는 사후 모니터링 시스템에 의해 철저히 관리되어야 한다.

 제20조. 인공지능이 고장나거나 장애를 일으킬 경우 그 원인을 파악할 수 있어야 한다.

 

제 3장 인공지능 개발자의 윤리

 제21조. 인공지능 개발자는 강화된 윤리적 책임의식을 가져야 한다.

 제22조. 인공지능 개발자는 인간에게 해를 끼치는 인공지능을 만들어서는 안 된다.

 제23조. 인공지능 개발자는 합의된 안전 개발 지침에 의거하여 인공지능 제품과 서비스를 만들어야 한다.

 제24조. 개발자는 인공지능에 자체적인 의사결정 능력 부여시 고도의 주의를 기울여야 한다.

 제25조. 개발자는 머신러닝 알고리즘을 적용할 경우, 제13조에 의한 빅데이터를 선별하기 위해 노력해야 한다.

 제26조. 개발자는 머신러닝 알고리즘을 적용할 경우, 출시 전 충분한 시뮬레이션을 통해 결과값에 대한 오류를 최소화하고, 결과값에 대한 충분한 예측 정보를 확보해야 한다.

 제27조. 개발자 또는 개발회사는 소비자에게 인공지능 제품과 서비스에 대한 충분한 정보제공 및 주의사항을 고지할 의무가 있다.

 제28조. 개발자 또는 개발회사는 인공지능 제품과 서비스에 본래 목적 외의 기술이나 기능이 내장되는 경우 이를 소비자에게 고지할 의무가 있다.

 제29조. 개발자 또는 개발회사는 소비자에게 제품과 서비스에 인공지능 기술이 적용되어 있음을 표지나 문서, 음성 등으로 사전에 고지해야 한다.

 제30조. 개발자 또는 개발회사는 소비자로부터 데이터를 수집 받을 경우 사전에 동의를 구하거나 해당 내용을 고지해야 한다.

 제31조. 인공지능 개발자는 인공지능의 안전과 윤리에 관해 다양한 관계자들과 협력하고 지속적인 교육을 받아야 한다.

 제32조. 인공지능 개발회사는 소속 개발자들이 안전하고 윤리적인 인공지능을 만들 수 있도록 관련 환경을 조성해주고 적극 지원해주어야 한다.

 제38조. 인공지능 개발자는 인공지능을 이용한 신기술을 개발할 경우, 순기능뿐만 아니라 사회에 미칠 부작용을 고려해야 하며 역기능이 우려될 경우 개발에 보다 신중해야 한다.

 

제 4장 인공지능 소비자의 윤리

 제33조. 소비자는 인공지능 제품과 서비스를 타인을 해치거나 범죄의 목적으로 사용해서는 안 된다.

 제34조. 소비자는 인공지능 제품과 서비스를 올바른 방법으로 사용해야 한다.

 제39조. 인공지능 사용자와 소비자는 인공지능을 이용하여 영상, 이미지, 음성 등을 조작한 콘텐츠를 생성 및 배포할 경우, 해당 콘텐츠가 인공지능을 이용하여 제작한 콘텐츠임을 표지나 문서, 음성 등으로 사전에 밝혀야 한다.

 

제 5장 공동의 책임과 이익의 공유

 제35조. 인류는 공동의 책임과 의무로 인공지능의 위험성을 감시하고 기 발생한 해악을 제거해야 한다.

 제36조. 인공지능의 편익과 혜택은 온 인류가 공평하게 누리고 향유할 수 있어야 한다.

 제37조. 인공지능 기술 수혜의 취약 국가와 취약 계층을 위해 인류 공동의 지원과 교육이 이루어져야 한다.

 제40조. 인간과 인간이 만드는 인공지능 기술은 전지구와 환경, 생태계에 윤리적, 도덕적 책임을 져야 한다.



 

 


본 헌장은 2019년 10월 23일에 IAAE (International Association for AI and Ethics)에서 제정 및 공포되었으며, 전 세계 어떤 개인, 기업, 단체도 출처를 밝힌 후 자유롭게 인용 및 사용할 수 있습니다. 헌장은 현재 시점을 반영한 완료본이며, 이후 지속적으로 수정 및 업데이트 될 수 있습니다.


 

 

 

2019년 10월 23일

2019년 12월 19일 개정 (서문수정,38조,39조추가)

2021년   1월  11일 개정 (서문수정,40조추가)

 




IAAE 국제인공지능윤리협회

International Association for Artificial Intelligence and Ethics