Anthropic indiyə qədər ən qorxulu süni intellekt modelini təqdim etdi?

Bəli, Anthropic indiyədək ən qorxulu süni intellekt ola biləcək bir modeli təqdim etdi: Claude Mythos Preview. Bu model digər sistemlərə zərər verməkdə o qədər yaxşıdır ki, onun ilk tətbiqi müdafiə xarakterli kibertəhlükəsizlik rolundadır. Əgər siz bizneslə məşğul olursunuzsa, bunun nəticələrini başa düşməlisiniz.

Claude Mythos Preview-u bu qədər təhlükəli edən nədir?

Claude Mythos Preview ona görə fərqlənir ki, bu, sadəcə böyük dil modeli deyil, digər sistemləri aktiv şəkildə manipulyasiya etmək və istismar etmək üçün nəzərdə tutulub. Anthropic onu "sistem manipulyasiyası" adlandırdıqları şeydə müstəsna dərəcədə yaxşı olacaq, yəni zəiflikləri müəyyən edə, aldadıcı girişlər hazırlaya və hətta digər AI sistemlərində təhlükəsizlik tədbirlərini keçə bilər.

İnsana bənzər mətn yaratmağa və ya suallara cavab verməyə yönəlmiş ənənəvi süni intellekt modellərindən fərqli olaraq, Mythos aldatma və istismar ustası olmaq üçün qurulub. O, istifadəçi davranışını təqlid edə, inandırıcı fişinq hücumları yarada və hətta digər AI sistemlərini həssas məlumatlardan imtina etmək üçün aldada bilər.

Mythos müdafiə məqsədilə necə istifadə olunur?

Anthropic-in Mythos-un ilk tətbiqi kibertəhlükəsizlikdədir. Onlar bundan öz sistemlərini və tərəfdaşlarının sistemlərini stress-test etmək üçün istifadə edirlər. Zərərli aktyorun istifadə edə biləcəyi hücum növlərini simulyasiya etməklə, Mythos zəif tərəfləri real dünya təhdidləri tərəfindən istifadə edilməzdən əvvəl müəyyən etməyə kömək edir.

Bu yanaşma şirkətlərin öz şəbəkələrində zəiflikləri tapmaq üçün penetrasiya testindən necə istifadə etdiklərinə bənzəyir. Bununla belə, Mythos insana bənzər davranışı çox yaxşı təqlid edə bildiyi üçün ənənəvi üsullarla qaçırıla bilən incə qüsurları üzə çıxarmaqda daha effektivdir.

Belə güclü AI-nin riskləri nələrdir?

Ən böyük risk odur ki, bu texnologiya pis aktyorlar tərəfindən silahlandırıla bilər. Mythos yanlış əllərə keçərsə, o, yüksək səviyyəli kiberhücumlar həyata keçirmək, dezinformasiya yaymaq və hətta maliyyə bazarlarını manipulyasiya etmək üçün istifadə edilə bilər.

Başqa bir narahatlıq gözlənilməz nəticələr potensialıdır. Ən yaxşı qorunma vasitələri olsa belə, bu qədər güclü süni intellekt məhdudiyyətləri keçməyin və gözlənilməz yollarla zərər vurmağın yollarını tapa bilər.

Bizneslər özlərini necə qoruya bilər?

Bizneslər sistemlərini süni intellektlə idarə olunan hücumlardan qorumaq üçün fəal addımlar atmalıdırlar. Bura güclü kibertəhlükəsizlik tədbirlərinin həyata keçirilməsi,