2025구글스터디잼 추천과정 - 03 Introduction to Resposible AI

03 Introduction to Resposible AI

• AI Responsibly 의 책임이라는 것이 무엇일까?
  • 왜 구글은 AI principles 을 넣었을까?
  • 조직 내에서 책임감 있는 AI principles의 필요성 파악
  • 프로젝트의 모든 과정에서의 결정에 책임감 있는 AI 가 얼마나 영향을 주는지 인식한다.
  • 조직이 비즈니스의 요구와 가치에 맞게 AI 도구를 설계할 수 있는지 인ㄱ식한다.

이유와 내용

• AI는 빠르게 발전하고 있지만 완벽하지 않다.
  • 잠재적인 문제, 한계나 의도하지 않은 결과에 대한 이해가 필요하다.
    • 모범 사례가 없다면 AI는 기존의 문제나 편향을 복제하여 증폭시킬 수 있다.
  • AI의 개발의 각 측면에 사람이 관려한다.
    • 사람이 모델이 학습할 데이터를 수집하고 생성한다.
    • AI배포와 AI가 주어진 상황에 적용되는 방식을 제어한다.
      • 결정을 내릴 때마다 자신의 가치에 따라 선택함.
• AI resposibirity 원칙
  • AI는 사회에 도움이 되어야 한다.
    • 모든 프로젝트는 사회적, 경제적 요인을 고려해야 하고 전반적으로 예상되는 이익이 예측 가능한 위험과 단점을 크게 상회한다고 판단되는 경우에만 진행된다.
  • 굴공정한 편향을 만들어가 강화해서는 안된다.
  • AI는 안전을 염두에 두고 빌드되고 테스트되어야 한다.
  • AI는 사람들에 대한 책임 의식을 가져야 한다.
  • AI는 개인 정보 보호 설계 원칙을 내포해야 한다.
  • 높은 수준의 과학적 우수성을 유지해야 한다.
  • AI는 이러한 원칙에 부합되는 용도로 제공되어야 한다.
• 얘들이 지향하지 않는 AI 설계
  • 전반적인 피해를 줄 수 있어 보이는 기술들
  • 인명 피해를 초래하거나 이를 직접적으로 지원하는 기술
  • 국제적으로 인정된 규범을 위한바는 방식으로 사용하는 기술
  • 국제법, 인권과 관련된 원칙과 위배되는 기술