Otomatik sistemler insan yerine geçebilirmi sorusu çok karmaşık. Bugün çoğu otomasyon insan hatasını telafi etmek için kullanılıyor. Hiç insan olmasa her şey tam olur gibi geliyor ama tersi örneklerde var.
Unutmadığım bir uçak kazası var. Uçaklarda TCAS adında bir sistem havada çarpışmayı engelliyor. 2 uçak arasında ki iletişimle rotalarının kesişeceği sonucuna varırsa birine alçal birine yüksel diye uyarı vererek kazayı engelliyor. Yanlış hatırlamıyorsam Almanya üzerinde böyle bir durum meydana geliyor, Bir rus yolcu uçağı ile fedex kargo uçağının rotası kesişiyor TCAS fedexe yüksel, Ruslara alçal diyor. Fedex yükseliyor, Alman kule görevlisi durumu son anda farkedip. Ruslara yüksel diyor, Ruslarda prensip olarak kule görevlilerini dinledikleri için yükselip çarpışıyorlar. İşin içinde insan olmasa, Rus pilot insan yerine makineyi dinlese, veya herşeye rağmen uçak pilotu dinlemese o kaza olmayacaktı.
Diğer örnek ise yanlış hatırlamıyorsam Airbus a330(en çok kullanılan yolcu jetlerinden biri) lansmanında yaşanan kaza. Detaylarını hatırlamıyorum ancak akrobatik sayılabilecek bir hareket planlanıyor, ancak uçak bu hareketi yapamayacağını düşünerek engelliyor ve kazaya sebep oluyor. Ve bu sistem olmasa pilot ve uçak o hareketi yapabilecek durumdaymış. Uçak suçlu mu? Neyi ne kadar yapabileceğini bilmeden mi müdahale ediyor? Yoksa uçağı kapasitesinin altında programlayanlar mı suçlu? Yada bu uçak bu sistemle bu hareketi yapamaz demeyenler mi?
bence insan her zaman işin içinde olmalı ancak karar mekanizmasında öncelik makinede olmalı.