Опасный ИИ не обязательно должен быть сознательным
Согласно одной из гипотез об опасности ИИ, очень мощная система может совершать вредные действия просто потому, что они помогают достичь поставленной перед ней цели. В этом сценарии для опасности системе не нужны чувства, осознание или сознание.