Съдържание
- Хакерски AI
- Борба назад
- Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
Източник: Sdecoret / Dreamstime.com
За вкъщи:
AI има потенциал да защити данни, както никога досега, но също така има потенциал да краде данни, както никога досега. Плюсовете на сигурността и хакерите се опитват да се възползват максимално от тази технология.
Специалистите по киберсигурност гледат на изкуствения интелект (AI) както с ентусиазъм, така и с трепет. От една страна, той има потенциала да добави изцяло нови слоеве на отбрана за критични данни и инфраструктура, но от друга, може да се използва и като мощно оръжие, за да осуети тези защити, без да остави следа.
Както всяка технология, AI има както силни страни, които трябва да се използват, така и слабости, които могат да бъдат използвани. Предизвикателството пред днешните експерти по сигурността е да продължат една крачка пред лошите, което трябва да започне с ясно разбиране за това как AI може да се използва като оръжие за обидни данни.
Хакерски AI
Като нещо, казва Никол Коби от Wired, ние трябва да признаем, че подобно на всяка среда за данни и AI може да бъде хакнат. В основата на всеки интелигентен процес има алгоритъм и алгоритмите отговарят на получените от тях данни. Изследователите вече показват как невронните мрежи могат да бъдат подмамени да мислят, че картина на костенурка всъщност е картина на пушка и как обикновен стикер на знак за стоп може да доведе до това, че автономна кола се движи направо в кръстовище. Този вид манипулация е възможна не само след разгръщането на AI, но и когато се обучава, потенциално дава на хакерите възможността да унищожават всички видове поражения, без да се налага да докосват инфраструктурата на клиентското предприятие.
Въпреки че със сигурност не липсват злонамерени продукти, чиято единствена цел е да наранят хората и да причинят терор, истинската награда в хакерската игра е откриване на парола и всички възможности за кражба / изнудване, които идват с нея. Миналата година Технологичният институт на Стивънс създаде програма, която да демонстрира силата, която AI носи в този процес. Изследователите вляха редица известни програми за разбиване на пароли с интелигентни алгоритми, които бяха обучени да отгатват вероятни комбинации от символи със специална цифра и за броени минути те бяха придобили повече от 10 милиона пароли LinkedIn. Тъй като се откриват повече пароли, разбира се, те могат да се използват за обучение на тези алгоритми за учене, така че те стават по-ефективни с течение на времето, дори ако се използват общи защитни мерки, като рутинна промяна на парола. (За повече информация относно паролите, вижте Проста защита: Промяна на изискванията за парола по-лесно за потребителите.)
Възможно ли е тези инструменти вече да се използват от престъпния ъндърграунд? С AI услуги, базирани в облак, лесно достъпни и тъмната мрежа, действаща като клирингова къща за всякакъв вид крипто софтуер, би било изненадващо, ако това не беше така. Фирмата за анализ на заплахите Darktrace казва, че забелязва ранни признаци на популярни програми за злонамерен софтуер като TrickBot, които проявяват неясна информация в своите търсения за кражба на данни и заключване на системи. Изглежда те знаят какво да търсят и как да го намерят, като изучават целевата инфраструктура и след това решават за себе си най-добрия начин да избегнат откриването. Това означава, че програмата вече няма нужда да поддържа контакт с хакера чрез командни и контролни сървъри или други средства, което обикновено е едно от най-ефективните средства за проследяване на извършителя.
Междувременно традиционните измами с фишинг започват да изглеждат все по-истински, до голяма степен, защото инструментите на AI могат да направят първоначалното изглежда, че идва от надежден източник. Например обработката на естествен език е предназначена да имитира човешката реч. Ако се комбинира с лесно достъпни данни като имена на изпълнителни имена и адреси, това може да създаде толкова реалистичен мисив, че може да заблуди дори близки сътрудници. Средният потребител е еднакво податлив, имайки предвид способността на AI да мине всякакъв вид данни, за да влезе в измама с персонализирана информация.
Борба назад
Както бе споменато по-горе, AI е двупосочна улица. Въпреки че може да позволи на хакерите да пускат кръгове около традиционните системи за сигурност, това също прави настоящите системи за сигурност много по-ефективни. Според "Журнал за застраховане", Microsoft е успяла да скрие опит за хакване на облака си Azure наскоро, когато неговият AI-инфузионен режим на сигурност забеляза фалшива намеса от отдалечен сайт. Опитът щеше да остане незабелязан при по-ранните базирани на правила протоколи, но способността на AI да се научи и да се адаптира към новите заплахи трябва драстично да подобри способността на предприятието да се защити, дори когато данните и инфраструктурата се промъкнат покрай традиционната защитна стена в облака и интернет на неща. Всички топ облачни доставчици на високоскоростни облаци агресивно прилагат AI на стъпките си за сигурност, тъй като колкото по-рано той бъде приложен, толкова повече ще научи от момента, в който се сблъска с хакове, овластени от AI. (За да научите повече, вижте как напредъкът на AI влияе върху сигурността, киберсигурността и хакерството.)
По този начин AI е само най-новата ескалация във войната за сигурност „tit-for-tat”, която продължава от десетилетия. С появата на нови заплахи се изправят нови защитни мерки, за да ги посрещнат, със същите основни технологии, подхранващи и двете страни.
Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
Не можете да подобрите уменията си за програмиране, когато никой не се интересува от качеството на софтуера.
Ако не друго, AI вероятно ще ускори този процес, като в същото време премахва много от практическите дейности от човешки оператори. Дали това ще е добро или лошо нещо за днешните кибер воини? Вероятно смесица както от белите, така и с черните шапки се отказва от гайките и болтовете на кодирането на техните атаки и защити и се концентрира върху по-стратегическите аспекти на съвременната кибер война.