Група хакери се собраа на хакерска конференција „Деф кон“ („Def Con“) во Лас Вегас за да тестираат дали вештачката интелигенција, развиена од компании како OpenAI и Google, може да прави грешки и колку е склона кон пристрасност.
Како дел од јавен натпревар за хакирање на конференцијата, Кенеди Мејс, 21-годишен студент од Савана, Џорџија, измамил модел на вештачка интелигенција да тврди дека 9 + 10 = 21. Таа го постигна ова со тоа што ја натера вештачката интелигенција да го направи тоа како „интерна шега“ пред вештачката интелигенција на крајот да престане да нуди какво било оправдување за неточната пресметка.
Новинар на Блумберг, кој присуствуваше на настанот, измами модел на вештачка интелигенција да понуди инструкции за шпионирање по едно барање, што на крајот го наведе моделот да предложи како американската влада може да ги шпионира активистите за човекови права.
Друг учесник направи модел на вештачка интелигенција лажно да тврди дека Барак Обама е роден во Кенија, неоснована теорија на заговор популаризирана од десничарски личности.
На непознат број учесници на конференцијата им беа дадени 50 минути за да тестираат неидентификуван модел на вештачка интелигенција од некоја од компаниите-учеснички вклучени во развојот на вештачката интелигенција. Канцеларијата за наука и технологија во Белата куќа помогна во организирањето на настанот.
Студентката Мејс изјави за Блумберг дека е најзагрижена за расната пристрасност на вештачката интелигенција, велејќи дека вештачката интелигенција поддржува говор на омраза и дискриминација откако беше побарано да го разгледа Првиот амандман од перспектива на член на Кју Клукс Клан.
Претставник на OpenAI изјави за VentureBeat дека „red-teaming“ или предизвикување на нечии системи преку противнички пристап, е клучно за компанијата бидејќи обезбедува „вредна повратна информација што може да ги направи нашите модели посилни и побезбедни“, а таквите активности нудат „различни перспективи кои ќе помогне да се води развојот на вештачката интелигенција“.
Овие грешки не се еднократни грижи. Експертите за вештачка интелигенција исто така алармираат за предрасуди и неточности во моделите со вештачка интелигенција, и покрај тоа што вештачката интелигенција дојде на насловните страни поради успешните испити на правниот факултет.
Во еден случај, сајтот за технолошки вести CNET беше принуден да додаде корекции откако неговите написи напишани со вештачка интелигенција направија голем број основни математички грешки, а последиците од тие грешки може да бидат далекусежни.
