Няўжо Anthropic проста запусціў самую страшную мадэль штучнага інтэлекту?

Так, Anthropic толькі што мякка запусціла мадэль, якая можа стаць самым страшным штучным інтэлектам: Claude Mythos Preview. Гэтая мадэль настолькі добрая ў нанясенні шкоды іншым сістэмам, што яе першае прымяненне - гэта абарончая роля кібербяспекі. Калі вы вядзеце бізнес, вы павінны разумець наступствы.

Што робіць Claude Mythos Preview такім небяспечным?

Claude Mythos Preview вылучаецца тым, што гэта не проста вялікая моўная мадэль — яна распрацавана для актыўнага маніпулявання і выкарыстання іншых сістэм. Anthropic стварыла яго, каб быць выключна добрым у тым, што яны называюць "сістэмнымі маніпуляцыямі", гэта значыць, што ён можа ідэнтыфікаваць уразлівасці, ствараць падманныя ўводы і нават абыходзіць меры бяспекі ў іншых сістэмах штучнага інтэлекту.

У адрозненне ад традыцыйных мадэляў штучнага інтэлекту, якія сканцэнтраваны на стварэнні чалавечага тэксту або адказах на пытанні, Mythos створаны, каб быць майстрам падману і эксплуатацыі. Ён можа імітаваць паводзіны карыстальнікаў, ствараць пераканаўчыя фішынгавыя атакі і нават падманам прымушаць іншыя сістэмы штучнага інтэлекту выдаваць канфідэнцыяльную інфармацыю.

Як Mythos выкарыстоўваецца для абароны?

Першае прымяненне Anthropic Mythos датычыцца кібербяспекі. Яны выкарыстоўваюць яго для стрэс-тэсту сваіх уласных сістэм і сістэм сваіх партнёраў. Мадэлюючы віды нападаў, якія можа выкарыстоўваць зламыснік, Mythos дапамагае выявіць слабыя месцы, перш чым яны могуць быць выкарыстаны пагрозамі рэальнага свету.

Гэты падыход падобны да таго, як кампаніі выкарыстоўваюць тэставанне на пранікненне для пошуку слабых месцаў у сваіх сетках. Аднак, паколькі Mythos можа так добра імітаваць чалавечыя паводзіны, ён значна больш эфектыўны пры выяўленні тонкіх недахопаў, якія можна прапусціць традыцыйнымі метадамі.

Якія рызыкі такога магутнага ІІ?

Самая вялікая рызыка заключаецца ў тым, што гэтая тэхналогія можа стаць зброяй кепскіх асоб. Калі Mythos трапіць у чужыя рукі, ён можа быць выкарыстаны для правядзення вельмі складаных кібератак, распаўсюджвання дэзінфармацыі або нават маніпулявання фінансавымі рынкамі.

Яшчэ адна праблема - магчымасць непрадбачаных наступстваў. Нават пры найлепшых мерах бяспекі такі магутны ІІ можа знайсці спосабы абыйсці абмежаванні і нанесці шкоду нечаканым чынам.

Як прадпрыемствы могуць абараніць сябе?

Прадпрыемствам неабходна прымаць актыўныя меры, каб абараніць свае сістэмы ад нападаў з дапамогай штучнага інтэлекту. Гэта ўключае ў сябе ўкараненне жорсткіх мер кібербяспекі,