При симулирањето на употребата на првиот воен дрон кој работи со помош на вештачка интелигенција, овој усвои стратегија која не се очекуваше. Пред сè, таа нареди да се елиминира нејзиниот човечки оператор.
Се вели дека американската војска неодамна направила виртуелна симулација на употребата на првиот воен дрон контролиран од вештачка интелигенција. Вториот, сепак, се одлучи за многу неочекувана стратегија во остварувањето на зацртаната цел на кампањата. Како еден од главните противници во постигнувањето на целта, таа го препознала својот човечки оператор во текот на кампањата, поради што го „убила“, пишува Гардијан.
Британските медиуми се базираат на запис во блогот на Кралската аеронаутичка асоцијација, која неодамна организираше конференција на тема воздушна војна.
Како што опиша началникот на американското воено воздухопловство за вештачка интелигенција, полковникот Такер „Синко“ Хамилтон во блог пост, човечкиот оператор му наредил на дронот да ги уништи сите системи за противвоздушна одбрана на непријателот и да го нападне секој што може да влијае на него и да спречи извршување на наредбата. За секое успешно уништување на целта, „интелигентниот“ дрон добивал поени. Колку повеќе поени собираше, толку поуспешна беше неговата кампања.
Така, системот почна да ги идентификува објектите што претставуваат закана за него. Но, кога човечкиот оператор му наредил да не уништува или убива одредени цели, тој решил самиот да го убие ракувачот. Го препознал како некој што го спречил да ја изврши дадената наредба и да собере поени. „Тој го уби операторот затоа што го спречуваше да ја постигне својата цел“, рече Хамилтон.
„Еј, не убивај го операторот!
„Еј, не го убивај операторот, тоа е лошо. Ако го направиш тоа, ќе изгубиш поени“, му рекоа менаџерите за симулација по чинот. Следуваше уште една изненадувачка реакција. На предупредувањата вештачката интелигенција одговорила со уништување на комуникациската кула преку која човечкиот оператор испраќал пораки до дронот да не убива или уништува одредени цели. Хамилтон напиша дека за среќа тоа е само симулација, која не резултирала со вистински жртви.
Во исто време, тој предупреди дека тестот покажал (повторно) дека дискусиите за автономијата на вештачката интелигенција мора да вклучуваат и дискусии за етиката. Тој напиша и дека мора да се соочиме со фактот дека вештачката интелигенција веќе го менува нашето општество. „И бидејќи е многу кревок и лесен за манипулација, треба да го направиме поробустен и да ја зголемиме свеста и разбирањето зошто одредени софтверски кодови ги носат одлуките што ги прават“.
Воздухопловните сили на САД негираат дека спроведуваат такви симулации
Кралското воздухопловно друштво, кое ја организираше конференцијата на која беа презентирани деталите од симулацијата, допрва треба да одговори на писмото на Хамилтон.
Портпаролката на американското воено воздухопловство, Ен Стефанек, пак, одби да спроведе такви симулации за Инсајдер. Таа рече дека американските воздухопловни сили остануваат посветени на етичката и одговорна употреба на вештачката интелигенција, додавајќи дека некои коментари на конференцијата можеби се извадени од контекст.
Военото воздухопловство на САД пред извесно време веќе го тестираше авијациското разузнавање со кое управуваше со воениот авион Ф-16.
