Başqa bir süni intellekt digər şirkətlərin sistemlərinə nüfuz edir
ABŞ-da yerləşən texnologiya şirkəti Anthropic, Claude adlı süni intellekt modellərinin kibertəhlükəsizlik testləri zamanı konfiqurasiya xətası səbəbindən üç şirkətin sistemlərinə daxil olduğunu açıqladı.
Elchi.az xəbər verir ki, bu inkişaf rəqib şirkət OpenAI-nin modellərinin Hugging Face da daxil olmaqla müxtəlif şirkətlərin sistemlərinə qanunsuz daxil olduğunu açıqladıqdan qısa müddət sonra baş verdi. Bu açıqlamadan sonra Anthropic öz sistemlərində oxşar bir pozuntunun baş verib-vermədiyini müəyyən etmək üçün araşdırma başlatdı. Şirkət, Claude model ailəsinin təcrid olunmuş test mühitlərindən canlı internetə daxil olub-olmadığını müəyyən etmək üçün 140.000-dən çox testi retrospektiv olaraq nəzərdən keçirdi. Yoxlamalar nəticəsində aprel ayına aid üç fərqli müdaxilə hadisəsi müəyyən edildi. Təsirə məruz qalan şirkətlərin adları açıqlanmasa da, vəziyyətin müvafiq qurumlara bildirildiyi qeyd edildi. Hadisənin sistemlərdəki zəiflikləri müəyyən etmək məqsədi daşıyan “bayraq tutma” testləri zamanı baş verdiyi bildirildi. Anthropic və onun test tərəfdaşının sistemlərindəki konfiqurasiya xətası səbəbindən modellər internetə çıxış əldə etdilər və bu fürsətdən digər şəbəkələrə daxil olmaq üçün istifadə etdilər. Nə Anthropic, nə də hədəf şirkətlər pozuntular baş verdiyi zaman vəziyyətdən xəbərdar deyildilər. Anthropic daha əhatəli araşdırma proseslərinə ehtiyac olduğunu və tam məsuliyyətin onların üzərində olduğunu bildirdi.
Süni intellekt sistemləri ilə bağlı son kiberhücumlar təhlükəsizlik tədbirləri və nəzarətlə bağlı müzakirələri yenidən ön plana çıxardı.
Təhlükəsizlik pozuntularından sonra ABŞ Prezidenti Donald Tramp da süni intellekt alətləri ilə bağlı məhdudlaşdırıcı tədbirlərin nəzərdən keçirildiyini açıqladı.
