ABŞ-ın Oksford Universitetinin və “Google” şirkətinə məxsus “DeepMind” laboratoriyasının tədqiqatçıları tərəfindən öz-özünə öyrənən alqoritmlər üçün qəza vəziyyətində söndürülmə sisteminin yaradılması ilə bağlı işlər görülür. Sistem süni intellektin nəzarətdən çıxması hallarında kömək edəcək.
naked-science.ru saytının məlumatına görə, işin məqsədi süni intellektin söndürülmə əmrinə tabe olmaması hallarının qarşısını almaq üçün üsulun tapılmasına imkan verəcək proqram platformasının yaradılmasıdır.
Süni intellekt insanın nəzarəti altında real vaxt rejimində işləyirsə, bəzən operator süni intellektin özü və ya onu əhatə edənlər üçün təhlükə yaratdıqda söndürülmə düyməsini sıxmaq məcburiyyəti ilə üzləşə bilər.
Alimlərin bildirdiyinə görə, bu düymə robotun cari hərəkətlərini dayandırmağa, ətrafdakıları potensial təhlükəli vəziyyətlərdən qorumaq üçün maksimum təhlükəsiz etməyə, eləcə də gözlənilməz nəticələrə səbəb ola biləcək hərəkətlərin qarşısını almağa zəmanət verəcək.
