बिना ड्राइवर की कार से अगर ऐक्सीडेंट होगा, तो कार किसे बचाएगी - कार के अन्दर बैठी सवारी को या सड़क पर जा रहे व्यक्ति को? यह सवाल बहुत टेढ़ा है, लेकिन फिर भी कार जिस सॉफ़्टवेयर से चलेगी, आख़िरकार उसके लॉजिक में इस सवाल का कोई साफ़-साफ़ जवाब तो भरना ही पड़ेगा।क्योंकि कम्प्यूटर विवेक से नहीं चलते, बल्कि वह तो अपने कम्यूटर प्रोग्राम के उस तर्क से काम करते हैं जो सॉफ़्टवेयर बनाते समय उसके डेटा बेस में भरा गया था।तो सवाल यह है कि मान लीजिए कि कार सड़क पर चल रही है, अचानक कोई सामने आ गया, ग़लत ढंग से सड़क पार कर रहा हो या कोई और वजह हो, अब कार क्या करेगी? कार का कम्प्यूटर प्रोग्राम यह भाँप लेता है कि दुर्घटना बस होने ही वाली है, लेकिन वह क्या करे? कार को किस दिशा में ले जाए? कार के सामने जो आदमी आ गया है, उसे बचाने के लिए कार को किसी और तरफ़ मोड़े, जहाँ उसकी टक्कर किसी और चीज़ से हो सकती है, किसी और कार से या किसी मकान से या पास से गुज़र रही किसी बाइक से वह टकरा सकती है, ऐसे में कार के अन्दर बैठे लोगों की जान पर बन सकती है। तो क्या कार सड़क पर अचानक सामने आ गएआदमी को बचाए या फिर अपनी सवारियों को बचाए और सामने आ गए आदमी को कुचलते हुए सीधे चली जाए?बिना ड्राइवर की कार बनाने वाली कम्पनियाँ इस और ऐसे कई सवालों से जूझ रही हैं। इसलिए वे अब इन सवालों पर लाखों लोगों से राय ले रही हैं। इसके लिए ऑनलाइन सर्वेक्षण किये जा रहे हैं और तरह-तरह की सम्भावित विकट स्थितियों को पेश कर लोगों से उनके जवाब पूछे जा रहे हैं।
दुर्घटना में यदि किसी का जीवन बचा सकने की सम्भावना हो तो बिना ड्राइवर वाली कार को क्या करना चाहिए? क्या उसे युवा लोगों को बचाना चाहिए या बूढ़ों को? क्या उसे तन्दुरुस्त आदमी को बचाना चाहिए या किसी विकलांग या कमज़ोर व्यक्ति को?
क्या हमेशा ही कार को यह देखना चाहिए कि वह कम लोगों के बजाय ज़्यादा लोगों की जान बचाने को प्राथमिकता दे? बहुत-से लोगों के जवाब इन कम्पनियों को मिल भी गए हैं। मोटे तौर पर तीन सिद्धांत उभर कर सामने आए हैं। एक यह कि जानवरों के बजाय मनुष्यों के जीवन को प्राथमिकता दी जाए। दूसरे यह कि दुर्घटना होने पर जिस उपाय से ज़्यादा लोगों की जान बचती हो, कार को वह उपाय अपनाना चाहिए। और तीसरा यह कि बच्चों को बचाने को प्राथमिकता देनी चाहिए।