Администрацията на Байдън заяви във вторник, че предприема първата стъпка към изготвянето на ключови стандарти и насоки за безопасното внедряване на генеративен изкуствен интелект и за това как да се тестват и предпазват системите.
Националният институт за стандарти и технологии (NIST) към Министерството на търговията съобщи, че до 2 февруари очаква да получи обществена подкрепа за провеждането на ключови тестове, които са от решаващо значение за гарантиране на безопасността на системите с изкуствен интелект.
Секретарят по търговията Джина Реймондо посочи, че тези усилия са предизвикани от октомврийската заповед на президента Джо Байдън за изкуствения интелект и имат за цел да разработят „индустриални стандарти за безопасност, сигурност и доверие в изкуствения интелект, които ще позволят на Америка да продължи да бъде водеща в света в отговорното разработване и използване на тази бързо развиваща се технология“.
В момента се разработват препоръки за оценка на изкуствения интелект, съдейства се за разработването на стандарти и се осигурява тестова среда за оценка на системите за изкуствен интелект. С искането се цели да се получи информация от компаниите, работещи с ИИ, и от обществеността относно управлението на риска, свързан с генеративния ИИ, и намаляването на рисковете от дезинформация, генерирана от ИИ.
През последните месеци генеративният изкуствен интелект, който може да създава текст, снимки и видеоклипове в отговор на запитвания, предизвика не само вълнение, но и редица притеснения. ИИ може да доведе до обезсмисляне на някои работни места, да промени хода на изборите и потенциално да надделее над хората с катастрофални последици.
Заповедта на Байдън възлага на институциите да изготвят стандарти за това тестване и да обърнат внимание на свързаните с него рискове.
NIST работи по определянето на насоки за тестване, включително къде така нареченият „red-teaming“ би бил най-полезен за оценката и управлението на рисковете, свързани с ИИ. Както и по изготвянето на подходящи практики за това.
