인공지능의 연구 목적은 무엇인가? 아실로마 AI 원칙 (ASILOMA AI Principles)

아실로마 AI 원칙 23가지 (ASILOMA AI Principles) 

• 인공지능 연구의 목적은 인간에게 유용하고 혜택을 주어야 하며, 인간의 존엄성/권리/자유/이상 등과 양립할 수 있어야 하며, 장기적으로 위험에 대응하고 공동의 이익을 위해 활용되어야 한다는 원칙
• 2017년 1월에 미국 캘리포니아 아실로마에서 열린 AI컨퍼런스에서 발표된 인공지능 개발 원칙
• 연구 이슈 (5) +  윤리 가치 (13) + 장기 이슈 (5)

 

1

연구이슈

원칙	설명
연구 목표	-인공지능 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다.
연구비 지원	-인공지능에 대한 투자에는 컴퓨터 과학, 경제, 법, 윤리 및 사회 연구 등의 어려운 질문을 포함해 유익한 이용을 보장하기 위한 연구비 지원이 수반되어야 한다.
과학정책 연결	-인공지능 연구자와 정책 입안자 간에 건설적이고 건전한 교류가 있어야 한다.
연구 문화	-인공지능의 연구자와 개발자간에 협력, 신뢰, 투명성의 문화가 조성되어야 한다
경쟁 피하기	-인공지능 시스템을 개발하는 팀은 안전기준에 대한 부실한 개발을 피하기 위해 적극적으로 협력해야 한다.

 

 

2

윤리, 가치 이슈

원칙	설명
안전	- 인공지능 시스템은 작동 수명 전반에 걸쳐 안전하고 또 안전해야 하며, 적용가능하고 실현 가능할 경우 검증할 수 있어야 한다.
장애 투명성	-인공지능 시스템이 손상을 일으킬 경우 그 이유를 확인할 수 있어야 한다.
사법의 투명성	-사법제도 결정에 있어 자율시스템이 개입하면 권위 있는 인권기구가 감사 할 경우 만족스러운 설명을 제공해야 한다.
책임	-고급 인공지능 시스템의 설계자와 구축은 사용, 오용 및 행동의 도덕적 영향을 미치는 이해 관계자이며, 그에 따른 책임과 기회가 있다.
가치관 정렬	- 고도로 자율적인 인공지능 시스템은 목표와 행동이 작동하는 동안 인간의 가치와 일치하도록 설계해야 한다.
인간의 가치	- 인공지능 시스템은 인간의 존엄성, 권리, 자유 및 문화적 다양성의 이상에 적합하도록 설계되어 운용되어야 한다.
개인정보 보호	- 인공지능 시스템이 데이터를 분석하고 활용할 수 있는 권한을 부여 받으면, 사람들은 그 데이터를 액세스, 관리 및 통제 할 수 있는 권리를 가져야 한다.
자유와 개인정보	- 인공지능을 개인정보에 적용하면 사람들의 실제 또는 인지된 자유가 부당하게 축소되어서는 안된다.
공동이익	- 인공지능 기술은 최대한 많은 사람들에게 혜택을 주고 권한을 부여해야 한다.
공동번영	- 인류의 모든 혜택을 위해 AI에 의해 만들어진 경제적 번영은 널리 공유되어야 한다.
인간통제	- 인간은 인간이 선택한 목표를 달성하기 위해 의사결정을 인공지능 시스템에 위임하는 방법 및 여부를 선택해야 한다.
비파괴	- 고도화된 인공지능 시스템의 통제에 의해 주어진 능력은 건강한 사회를 지향하며, 이를 지키려는 사회나 시민들의 프로세스를 뒤집는 것이 아니라 존중하고 개선해야 한다.
인공지능 무기	- 치명적인 인공지능 무기의 군비 경쟁은 피해야 한다.

 

3

장기이슈

원칙	설명
능력주의	- 합의가 없으므로 향후 인공지능 능력의 제한에 관한 강력한 전제를 피해야 한다.
중요성	- 고급 AI는 지구상의 생명의 역사에 심각한 변화를 가져올 수 있으며, 그에 상응 한 관심과 자원을 계획하고 관리해야 한다.
위험	- 인공지능 시스템이 초래하는 위험, 특히 치명적인 또는 실제로 존재하는 위험은 예상되는 영향에 맞는 계획 및 완화 노력을 해야 한다.
자기복제 자기개선	- 인공지능 시스템이 고도의 품질로 자기복제나 자기개선 하도록 설계된 시스템은 엄격한 안전 및 통제 조치를 받아야 한다.
공동의 선	- 수퍼 인텔리전스는 널리 공유되는 윤리적 이상을 위해, 그리고 몇몇 국가나 조직이 아닌 모든 인류의 이익을 위해 개발되어야 한다.

 

 

함께 보면 좋은 글

 

 

---

※ 이 글의 내용을 상업적으로 무단 활용, 편집하는 것은 금지하고 있습니다. 강의, 출판 등 상업적 이용이 필요하신 경우, 문의 바랍니다.