AI가 문제, 오류가 생길 경우
정확하게 어떤게 원인인지 알 수가 없다
AI 작동 방식이 다량의 데이터를 넣고
그걸 학습해서 결과물을 내놓는다 까지는 이해했는데
만약 잘못된 정보, 가짜, 환각 문제를 일으키는 원인이 왜 발생하는지는 모름
가설만 몇개 있을 뿐
명확한 원인을 밝혀내지 못한 상태라
점점 AI가 중요한 선택을 하게 되는 현 시점에서
만약 오류가 발생 할 경우
왜 발생했는지 정확히 모르니
책임을 묻기도 어렵고 재발방지 조차 어려운게 문제