핵심 개념
계산과 분류처럼 기준이 분명한 작업은 자동화하기 쉽다. 반면 사람의 권리나 기회에 큰 영향을 미치는 판단은 단순한 효율성만으로 결정하기 어렵다.
자동화된 시스템도 목표, 데이터, 오류 허용 범위를 사람이 설계한다. 따라서 결과가 기계에서 나왔다고 해서 인간의 책임이 사라지는 것은 아니다.
어떤 판단을 자동화할지 결정할 때에는 정확도뿐 아니라 설명 가능성, 이의 제기 가능성, 피해의 크기까지 고려해야 한다.
생각해 볼 질문
- 자동화에 적합한 판단의 조건은 무엇일까?
- 기계의 결정에 사람이 책임을 져야 하는 이유는 무엇인가?
- 자동화하면 안 된다고 생각하는 판단을 하나 골라 이유를 설명해 보자.