사람의 마음은 설명 가능할까요? 사람의 마음을 설명 불가능한데, 신입사원은 어떻게 뽑는걸까요?
양자역학은 100%통계 모델이고, 그리고 그것은 세상을 잘 설명하고 있습니다.
"신뢰"라는것도 기술의 발전에 의해 개념이 달라질 수 있을거에요.
이래나 저래나 개발자들 입장에서는 피곤한 상황이 아닐수가 없습니다. 기껏 편하게 할려고 AI를 쓰는건데, 신뢰성을 위해서 테스트를 얼마나 더 엄격하게 해야하는지 모르니까요
제품을 만드는데 있어서 설명 가능한게 좋죠. 결국, 사람은 제품이 아니기 때문에 어떤 문제에 있어서 사람 자체에 책임을 물릴 수 있지만 제품은 하자가 있으면 만든 사람에게 책임을 물리니까요.
그래서 더더욱 테스트 환경을 현실에 가깝게 해서 할 필요성도 있는거기도 하죠. 원리를 모르니까 최대한 예외적인 상황이 없게끔 학습을 시키는 방법밖에 없으니까요
너무 모호하게만 말씀하셔서 잘 이해가 되지 않는데, 모델 내부 동작도 "설명가능해야" 어느정도 수준의 검증이 가능하다는 것이 중요한 것 아닌가요?
kandik님 의견에 따르면 Functional Safety 존재 의의가 없어집니다.