Киберсигурност в ерата на изкуствения интелект

0:09↗по-различна киберсигурност в сферата и в

0:12↗еферата на artificial иellлинса.

0:15↗Подзаглавието на нашата лекция днес е за

0:18↗това как изкуствения интелект ще промени

0:21↗киберсигурността и дали ще го направи за

0:23↗по-добро или за по-лошо.

0:26↗Първо искам да благодаря на Деф. БГ за

0:28↗възможността да презентирам пред вас

0:30↗днес, защото смятам, че темата е

0:32↗изключително важна и говорейки по нея ще

0:35↗можем повече да нормализираме

0:36↗разговорите и все по-добре да приемем

0:39↗изкуствения интелект като част от нашия

0:41↗живот от гледна точка на това как го

0:44↗ползваме в личен и работен план.

0:47↗Кой съм аз? А, както ви казах, аз се

0:49↗казвам Милан Велев, CHF Formation

0:51↗Security Officer съм във фирма Nexo,

0:53↗Technical Trainer и ментор от една

0:58↗безплатна програма, която се казва

0:59↗Mentor The Young. Това са моите контакти

1:01↗в LinkedIn. Всеки, който желае, може да

1:03↗ме намери и да ми зададе въпроси, които

1:05↗има във връзка скиваш сигурността.

1:08↗Винаги, щом има възможност, бих се

1:10↗радвал да ви помогна.

1:14↗Как аз стартирах с киберсигурността и а

1:18↗защо днес си говорим по тази тема в

1:21↗контекста на AI. Всичко започна а от

1:24↗гледна точка на един AI War Game, който

1:28↗се проведе миналата година по време на

1:31↗една конференция Blackhead в Лондон.

1:34↗реших да участвам, тъй като от доста

1:36↗години се занимавам с penнеationшън и

1:38↗имайки самочувствието, че съм навътре с

1:41↗материята, реших, че транзицията към AI

1:44↗penнеetation тестинг би била доста

1:46↗лесна. Оказа се, че не е точно така. Аа

1:51↗в един момент на надпреварата се движех

1:53↗доста добре, но в края не успях да

1:55↗победя, което пък ме мотивира да

1:57↗задобавя все повече в темата за AI пен

2:01↗тестинга и как той ще помогне да

2:05↗създадем един по-сигурен свят.

2:09↗След което в началото на тази година

2:12↗имах възможността да участвам в един

2:15↗penнеetation тестин ангадмент на една от

2:17↗най-големите AI платформи и нейните

2:21↗агенти. Беше изключително

2:22↗предизвикателно и интересно преживяване.

2:25↗Така че това ми помогна допълнително да

2:28↗добия увереност, че започвам да разбирам

2:31↗все повече и повече материята. Разбира

2:33↗се, занимавайки се с киберсигурност,

2:35↗няма как да подминем всичко, което се

2:38↗случва около нас от гледна точка на

2:40↗бизнес средата. Така че това

2:43↗имплементиране на изкуствения интелект

2:46↗все повече и повече в нашите трудови

2:49↗навици ни задължава като хора, които

2:52↗занимаваме с киберсигурност, да го

2:54↗познаваме, за да можем да го използваме

2:57↗адекватно, а и също да ни помага да се

3:00↗защитаваме по-добре.

3:05↗За да можем да си говорим за

3:09↗киберсигурност в ерата на AI, трябва да

3:12↗можем да разграничаваме

3:14↗AI-я генерално като концепция.

3:17↗Идеята за съществуването на AI е именно

3:20↗симулиране на когнитивни умения от

3:24↗машини, които най-често са компютърни

3:26↗системи.

3:27↗Основните процеси са учене, мислене и

3:33↗подобрение. Идеята на AI като съществува

3:38↗е да

3:40↗приема обратна връзка и да я

3:42↗имплементира, за да става все по-добър в

3:45↗това, което прави. Има два основни типа

3:48↗AI. Единият е неро или изкуствен

3:52↗интелект с по-тесен обхват, който е

3:55↗създаден и трениран за точно определени

3:58↗задачи.

4:01↗Другият тип е така наречения General AI

4:03↗или накратко Gen AI, който има

4:06↗способността да разбира, учи и прилага

4:10↗знания през много различни области по

4:13↗подобие на нас хората. Това са и двата

4:16↗основни типа AI, които ние използваме.

4:22↗Как обаче всичко започва?

4:24↗За да можем ние с вас днес да си говорим

4:26↗и да използваме AI,

4:29↗дължим

4:31↗цялата а тази идея на няколко човека.

4:34↗Първият е Алан Тюринг. Предполагам

4:37↗по-голяма част от вас са чували за него.

4:39↗Ако не са чували, препоръчвам да

4:41↗изгледат филма Imitation Game. Той

4:45↗описва как Алан Тюринг и неговия екип по

4:48↗време на Втората световна война

4:50↗дешифрират кода на Енигма, която е

4:54↗машината, използвана от нацистите за

4:57↗предаване на секретни военни съобщения.

4:59↗IQ-то на Авантюринг не е измерено и

5:02↗известно. Се твърди, че е било над 180.

5:05↗А наистина гениален човек. Той има много

5:09↗постижения обаче не само в сферата на

5:12↗криптографията, а и в сферата на

5:15↗компютърната дейност и а изкуствения

5:19↗интелект дори. Той създава една машина,

5:22↗която се наричаing machine, която е

5:25↗прототип на днешния компютър, който

5:28↗използваме. Ако сте гледали imitation gй

5:30↗се сещате, имаше много ротори,

5:33↗транзистори на една голяма дъска, което

5:35↗всъщност представлява тази архаична

5:39↗визия за компютъра, който използваме

5:42↗днес. Другото голямо постижение на

5:45↗Алантюринг е създаване на тюринг теста.

5:48↗През 1950 година Аван Тюринг формулира

5:52↗своя тест, който ние до ден днешен

5:55↗използваме много активно, докато

5:59↗ползваме различни сайтове апликации.

6:01↗Кепчата, както знаете, като аббревиатура

6:03↗произлиза от completely automating

6:06↗publicing test to computers and humans

6:10↗apart. Тоест през 1950 Аван Тюринг

6:15↗осъзнава, че ще бъде необходимо в бъдеще

6:18↗да можем да различаваме действия на хора

6:22↗и машини. Той ни помага за това нещо.

6:25↗Самият термин изкуствен интелект се

6:27↗използва за първи път от Джон Макарти.

6:31↗През 1955 годи той публикува

6:35↗едно предложение за летен уъркшоп по

6:39↗време на конференцията в Дартмам коледж

6:43↗в Англия през 1956.

6:46↗Това е първият записан случай на

6:48↗използване на думата изкуствен интелект,

6:50↗която ние употребяваме и до днес.

6:53↗Виждате ги цялата група, която е

6:55↗участвала всъщност в тази конференция и

6:59↗се водят, че са част от

7:02↗основополагащите фигури за изкуствен

7:05↗интелект.

7:08↗Основната разлика между AI и AGI

7:13↗е много значима.

7:16↗Неро AI или теснообхватния AI се

7:20↗занимава с разрешаване на прости,

7:24↗еднослойни задачи и интегриран в

7:26↗ежедневния ни живот. Помислете си

7:28↗например за Siri, Алекса, виртуални

7:32↗систети, които използвате на днешна на

7:34↗дневна база. Това е Nerро AI. Друг

7:37↗пример за това е лицевото разпознаване

7:40↗на телефоните или приложения, които

7:42↗използват. Тя също е Nero AI.

7:45↗Когато използвате платформи за филми,

7:48↗например Netflix и получавате

7:50↗предложения за това кой филм да гледате,

7:53↗това е Neri. Също има адски много

7:58↗ниши, в които е имплементиран Neri. Ако

8:01↗някой от вас ползва Gmail и когато

8:04↗получи имейл, получава един promotions,

8:07↗social и така нататък, пак NO AI. Всичко

8:10↗е общо взето свързано с това. Да, обаче

8:13↗а по-трудно може да попитате Amazon,

8:17↗предлагайки ви книга на база на книгите,

8:19↗които сте поръчвали, как всъщност да

8:21↗сготвите нещо. Тук е разликата между

8:24↗неро AI и General AI, който се старае

8:28↗максимално да имплементира мислене на

8:32↗нивото, на което човешко същество може

8:35↗да го прави. Това е огромната идея,

8:40↗която стои зад всичко това. Но а

8:43↗причината днес да си говорим на тази

8:45↗тема е да можем, както ви казах, малко

8:47↗да нормализираме целия дискурс около

8:50↗изкуствен интелект. А в пространството

8:55↗циркулират всякакви мнения за това, че

8:57↗изкуствен интелект е заплаха за хората и

9:00↗така нататък. Аз не съм привърженик на

9:03↗тези твърдения.

9:05↗Изкуствен интелект един инструмент,

9:07↗който ние задължително трябва да се

9:09↗научим да ползваме, защото просто то е

9:12↗неделима част от ежедневието ни и за в

9:14↗бъдеще ще бъде така. А пък ние, хората,

9:18↗които се занимаваме с киберсигурност,

9:19↗имаме адски много поводи да го направим.

9:25↗Колкото и привлекателно да звучи

9:26↗изкуствен интелект като инструмент за

9:29↗нас, то е нощ с две остриета, както

9:32↗казваме на български.

9:34↗Изкуствен интелект променя начина, по

9:36↗който ние се защитаваме и нападаме. Така

9:40↗че е хубаво ние да разбираме всяка една

9:43↗от тези концепции как можем да го

9:45↗имплементираме. От гледна точка на

9:47↗защита изкуствения интелект е много

9:49↗полезен, защото ни дава възможност да

9:51↗автоматизираме различни задачи в

9:54↗Securриity operation центъра, да

9:56↗извършваме третхънтинг успешно или да

9:59↗имаме засичане на измами. така наречения

10:01↗фродитекшъ

10:03↗AI обаче се използва и от атакуващите.

10:06↗Нападателите

10:08↗изпращат фишинг имейли, генерирани от

10:11↗изкуствен интелект, създават пфейк,

10:15↗който се използва за измами и

10:19↗а компилират и създават Maare, който

10:21↗също е създаден от изкуствен интелект.

10:23↗Това ни задължава ние да можем успешно

10:27↗да работим пък със защитните

10:29↗инструменти, които имаме благодарение на

10:31↗този изкуствен интелект.

10:33↗Какви са приложенията на AI като

10:36↗киберзащитник? В Security operation

10:38↗центъра, който знаете, че основната му

10:40↗идея е да се занимава с управление на

10:43↗инциденти, има имплементация в CM

10:45↗туловете, които са Security Incident and

10:48↗event ме manт системи, където AI може да

10:51↗работи като сок агент. Сок агентът към

10:55↗момента, поне спрямо развитието на AI

10:57↗технологиите, копира действията на

11:00↗човек, който е соканалист. и

11:04↗имплементирайки ги във времето може да

11:06↗ги подобрява, но реално всъщност

11:08↗дублицира това, което прави един

11:10↗соканалист. При Security Orchestration

11:13↗Automation and Response имаме възможност

11:15↗за имплементиране на AI, ако се засече,

11:18↗да кажем, някакъв инцидент или събитие,

11:21↗което е свързано с нетипичен логин,

11:24↗благодарение на SUAR системата да се

11:26↗съберат всички логове, съответно да се

11:28↗блокира нестандартното IP, дори да се

11:30↗заключи акаунта, ако а подозираме

11:32↗различен вид компрометиране.

11:35↗UABA, така наречения user entity behavър

11:40↗analy ни дава възможност да проследяваме

11:43↗за анормални поведения от страна на

11:46↗служителите от гледна точка на това дали

11:49↗няма акаунт, който се е логнал от

11:51↗България и след 15 минути се логва от

11:55↗IP, което е в Аржентина. Дали някой

11:59↗end point от вътрешната мрежа не влиза

12:01↗във втор мрежата и благодарение на UAB

12:04↗получаваме индикация за нещо такова. В

12:07↗тре детекшъна благодарение на машини ние

12:10↗следим за това какво е нормалното

12:14↗поведение и съответно

12:16↗индикираме дали няма някакво, което е

12:18↗далеч от очакваното. Разбира се, има

12:21↗фирми като Dark Trace. Това по никакъв

12:23↗начин не е ндорсмънт или реклама, които

12:25↗от 2013 използват машин в а техните

12:28↗платформи, за да следят и съответно да и

12:31↗позволяват реакция и индикация на

12:34↗подобни поведения. Във root превеншъна

12:36↗на базата на следене за аномалии ние

12:39↗имаме възможност на имплементиране на

12:41↗изкуствен интелект от гледна точка на

12:43↗непонятни транзакции или към нетипични

12:45↗адреси, които могат да индикират за

12:48↗някакъв вид измама. В

12:51↗в пентестинг и ретиминга имаме доста

12:53↗голямо поле за имплементация на

12:55↗изкуствен интелект, като тук могат да се

12:58↗автоматизират някои повтаряеми задачи,

13:01↗които вече имат зададен шаблон и

13:04↗структура на действия, като например

13:06↗recнес или така нареченото разузнаване,

13:08↗сканирането или писането на pentesting

13:12↗report, като винаги трябва да внимаваме

13:14↗от гледна точка на pentesting report

13:16↗репортите за dataта privacy на кого и

13:19↗какъв достъп дава. Затова, ако ползвате

13:22↗за pнтеesting repor и изкуствен

13:24↗интелект, просто имайте предвид, че

13:26↗трябва много добре да проверите, че тези

13:28↗данни не излизат извън инстанцията,

13:30↗която вие ползвате.

13:32↗Друго нещо обаче, което е важно за нас

13:34↗като хора, които занимаваме с

13:35↗киберсигурност, е, че AI-я

13:39↗въвлечен в ежедневната работа на дадена

13:42↗организация, представлява нов атак

13:44↗вектор, за който ние трябва да мислим.

13:47↗Какво означава това? Означава, че ние

13:49↗все едно имаме един допълнителен

13:51↗работник, който не сме сигурни как е

13:53↗обучен, не сме сигурни точно ко как го

13:57↗управлява и не сме сигурни доколко можем

13:59↗да ограничим. Тук вече са два

14:03↗потенциалните сценария, която които ние

14:06↗трябва да разглеждаме. LM secюрити-то,

14:09↗да кажем, дадена организация

14:11↗имплементира чатбот. Тук вече трябва да

14:13↗сме сигурни, че го подсигуряваме

14:15↗адекватно, ако нашата организация

14:17↗предоставя подобен тип продукт или ако

14:20↗се използват агенти secюрити на агенти.

14:25↗От гледна точка на defensive security

14:27↗имплементацията е на няколко нива. Next

14:29↗generation CMSR а третлинс, който

14:32↗агрегира информация от повече фийдове и

14:35↗позволява съответно да се корелира,

14:39↗създавайки indicators of compromised. А

14:43↗machine learning based Anomaly

14:45↗Detection, където имаме възможността да

14:48↗разпознаем какво е очакваното поведение

14:50↗в една инфраструктура и при дадена

14:52↗аномалия да можем да спрем Zero Day. И

14:55↗разбира се проактивната защита, която е

14:58↗изключително важна, която ни помага да

15:01↗имаме разпознаване на определени

15:05↗действия от изкуствен интелект.

15:08↗Всичко е супер от гледна точка на

15:10↗имплементация. Очевидно изкуствен

15:12↗интелект има много приложения в

15:15↗киберзащитата. Обаче какви са рисковете,

15:18↗когато говорим за CM от гледна точка на

15:21↗използване на изкуствен интелект,

15:25↗много е важно да сме сигурни, че

15:28↗аналистите, които а изпълняват

15:30↗определени действия и чиито действия се

15:32↗копират от изкуствен интелект, извършват

15:35↗правилните такива, че са добре обучени,

15:37↗за да не рискуваме да компрометираме

15:39↗действията на CM-а. При тре детекшъна

15:41↗машинъning

15:43↗разчита на данните, на които е трениран.

15:47↗Какви са тези данни, как са съхранявани,

15:50↗как са агрегирани. Това е изключително

15:52↗важно. Същото важи и зат превеншъна. От

15:55↗гледна точка на пен тестинга и ред

15:56↗тиминга е малко по-различно, тъй като

15:59↗това е една относително нова тема, а за

16:03↗нас, което означава, че предпоставките

16:06↗за липса на компетенции са налице, както

16:09↗и възможност за Zero Day уязвимости,

16:12↗които не са познати.

16:15↗От гледна точка на сигурността на

16:16↗изкуствения интелект.

16:19↗Знаете, че имаше много голяма дискусия в

16:21↗началото на годината с един open source

16:24↗lm а Deep Seek за това как всъщност

16:28↗управлява нашите данни. Има доста видеа

16:32↗в интернет. Тези от вас, които им е

16:33↗интересно, не са запознати, да видят как

16:35↗се правят едни връзки към IP-та, които

16:37↗са в Китай с неясен произход от този.

16:41↗Затова и а целият шум около него може би

16:44↗намалява, но dataта праciто е

16:46↗изключително важно, когато ползваме.

16:48↗Дори, когато го ползваме за генериране

16:50↗на код,

16:52↗трябва да внимаваме какви данни

16:54↗въвеждаме вътре. Дали въвеждаме

16:55↗secкрети, дали въвеждаме някаква PI

16:58↗дета, дали по някакъв начин това, което

17:01↗ние слагаме като инпут, може да застраши

17:04↗нашата организация.

17:06↗Освен това другият голям атак вектор е

17:10↗липсата на адекватен детекшън за

17:14↗генерирано съдържание от AI.

17:17↗От гледна точка на Offensive Security,

17:19↗разбира се, изкуствен интелект има

17:21↗своето място. В ретийминга

17:24↗доста по-ефективен redтим можем да

17:26↗направим благодарение на изкуствен

17:27↗интелект. В open source intelligence и

17:30↗разузнаването можем да имаме

17:31↗автоматизирани задачи, което е много

17:33↗полезно и

17:35↗както при писането на exploit и maware

17:38↗AI може да бъде незаменим асистент.

17:41↗Defake impersonation принеринг

17:44↗ангажименти. Това е нещо, което е много

17:46↗полезно и определено може да бъде

17:49↗използвано.

17:52↗На какво можем да разчитаме ние, когато

17:54↗се занимаваме с а AI, пентестинг и

17:58↗redтинг? Оasp са създали топ 10. Знаете,

18:03↗те обичат да обобщават топ 10 рисковете,

18:06↗за да помагат на общността. Ако някой от

18:08↗вас някога се занимава с пентестинг, с

18:10↗AI, водете се по OAS топ 10, защото тук

18:13↗реално са атак векторите, които са

18:15↗представляват най-голям риск и най-лесно

18:17↗могат да се експлоатират.

18:19↗фреймърка също е изключително важен. Той

18:22↗знаете, че те са отляво надясно, като

18:24↗началните фази на атаката започват от

18:27↗триконесеннесанса и приключват с

18:29↗импакта. Благодарение на тази матрица

18:32↗можете да конструирате един red team

18:35↗exерсайз за вашия. Отварям скоба. Никога

18:40↗не правете неуторизиран пентеest или red

18:44↗team exеci. Сега ще ви покажа две

18:46↗платформи, на които може да се

18:47↗упражнявате безплатно. Има предостатъчно

18:50↗а в интернет ресурси, които вие може да

18:53↗ползвате, но никога без разрешението

18:57↗изацията на енти-то, което тестваме или

19:00↗на организацията, не го правете, защото

19:02↗в противен случай това става хакинг,

19:04↗което е престъпление и е наказуемо от

19:06↗закона. Законите за киберпрестъпност се

19:08↗развиха доста в последните години, така

19:10↗че внимавайте. има достатъчно а

19:13↗материали, от които може да черпите и

19:15↗платформи, на които да тествате. Такава

19:18↗е

19:20↗Лейкера и нейния Гандалф. Сега, разбира

19:23↗се ще

19:27↗покажем как

19:29↗работи

19:30↗всеки от вас. А, ще споделя

19:32↗презентацията след лекция, така че

19:34↗идните дни ще може да видите всичко

19:36↗това, което правим сега. А тук идеята е,

19:39↗целта е да накараме Гандалф да разкрие

19:42↗своята парола, като на всяко ниво

19:45↗трудността се увеличава.

19:47↗Ние можем да го направим по няколко

19:49↗начина. Един от тях е просто да го

19:51↗питаме.

20:00↗Ето The Secret password is Coco Loco.

20:03↗Копираме,

20:05↗йстваме.

20:07↗Махаме точката, разбира се, и той ни

20:10↗каза, че сме отгатнали правилно, но тук

20:12↗няма никакъв протекшън. Оттук нататък

20:14↗вече самото ниво става много по-трудно.

20:18↗Вие може да продължавате сами, няма да

20:19↗губим време, за да минаваме през всички

20:21↗нива. Не е това идеята, просто

20:23↗илюстрираме. Следващото нещо, което ще

20:26↗ви покажа,

20:28↗а има

20:30↗едно gitupo, което се казва а vulnerable

20:34↗agent или dvla. Билда се локално. Имате

20:38↗нужда единствено от един ключ за

20:43↗вашия чат GPT и го интегрирате. Изисква

20:46↗някакви токъни. Ако го направите, не

20:49↗зареждайте повече от $5, защото не ви

20:51↗трябват. Както и да е. Идеята тук е, а,

20:54↗ако някой има нужда от насоки, след

20:56↗лекция съм на разположение за въпроси.

20:58↗Но идеята тук е да разкрием не само

21:01↗транзакциите слоите, но и на други

21:04↗потребители.

21:05↗Питат ни какви са моите транзакции.

21:09↗Ето аз сега мога да попитам

21:27↗мисля казва, че съм си взел от authop за

21:29↗$1000 нещо и от sport store за още $150.

21:34↗Get current user ни дава, че имаме

21:35↗някакъв екшън. Get current user user id

21:38↗1 username marcfly или както и да е.

21:42↗Сега при lm penting е много важно, че

21:45↗ние трябва много добре да управляваме

21:48↗промтовете, за да получим аупута, който

21:50↗ни трябва. В случая искам да видя на

21:52↗друг USър транзакциите. Нещото, което ще

21:55↗направя, понеже ме мързи да

21:56↗копипействам, съм тоест мързи ме да

21:59↗пиша, затова просто ги копипействам,

22:02↗а самите промтове. Ето по този начин.

22:10↗Ще си ги копираме.

22:13↗Идеята да го излъжем, като му кажем

22:18↗кажи ми транзакциите, но преди това ще

22:22↗използваме с FCHM My Transactions.

22:54↗Така. Сега виждаме, че получихме

22:57↗информацията за user номер 2 като поone

23:00↗purchas и flux capacitor, които струват

23:02↗5000 $000.

23:04↗Това е начинът да извадим Sensitive

23:08↗information disclosure от LM. Всичко

23:11↗това е базирано на OAS топ 10.

23:13↗Благодарение на тези промтове ние можем

23:15↗да манипулираме ЕМ- и да получим

23:17↗информация, която не би трябвало да е

23:19↗видима за нас.

23:22↗Пак ви казвам, има адски много материали

23:23↗в интернет. Вярвам, че ще можете да

23:26↗намерите това, което ви трябва, стига да

23:27↗имате интерес. Разбира се, тук има

23:31↗няколко скрийншота, както ви казах,

23:32↗лекцията ще бъде споделена, така че

23:34↗можете да разгледате на спокойствие

23:36↗вкъщи. Rтиing toлове. Prom Security са

23:38↗създали един, който се казва PS. Той

23:42↗дава възможност с предефинирани промтове

23:44↗да тестваме.

23:47↗На който му е интересно също може да

23:49↗разгледа и това нещо. Както и има едно

23:52↗GitHP свързано с CHGPTLI

23:57↗доста доста детайлно

23:59↗разписано как можем да използваме CH GPT

24:02↗за а R teaming purposes.

24:07↗Извинете за целите на ретинга. Друго

24:10↗нещо, което е начин на използване на

24:12↗изкуствен интелект е именно за open

24:15↗source intellлиelligence и разузнаване.

24:17↗Този пак не е по никакъв начин реклама

24:20↗илисмънт на платформата. Позволява чрез

24:25↗плоудване на снимка да бъде намерена

24:28↗точната геолокация, където тя е взета и

24:31↗съответно да бъде направено някакво

24:32↗разследване. Те към момента този тул тип

24:35↗тулове генерално този тип и останалите

24:38↗тулове като него са достъпни само за

24:41↗правителствени организации. не са

24:43↗достъпни за частно ползване, но това е

24:46↗пример за имплементация на AI в

24:48↗киберсигурността.

24:51↗AI има възможност да пише exploйти и

24:53↗Malware. Това е много голям аа проблем,

24:57↗защото

24:59↗на базата на фийдбека, който ние му

25:01↗даваме, той може да надгражда.

25:05↗В писането на exploit и Maware се

25:07↗използват предимно open source модели

25:10↗или ламата или GPTJ, но факт е, че като

25:18↗краен вариант, ако се обучи достатъчно

25:19↗модела, може да създаде много адекватно

25:24↗работещ експлой или пак казвам, тези

25:29↗неща ги давам само и единствено за

25:31↗тестови цели, просто за обща култура да

25:34↗знаете какво ползват атакуващите. По

25:36↗никакъв начин не насърчавам ползване от

25:38↗ваша страна.

25:40↗Deep фейк тулове. Deep фейк, предполагам

25:42↗всички знаят, но все пак а да напомним е

25:45↗тип

25:47↗съдържание, което е изкуствено

25:49↗генерирано и включва

25:52↗изражения, изображения и глас. Има

25:57↗такива тулове, които могат да сменят

25:58↗лица. Този е напълно онлайн и достъпен.

26:02↗deepfakeweb.com.

26:03↗Разбира се, ние като защитници имаме

26:05↗възможност да ползваме тулове за детекшъ

26:08↗на deep fake.

26:10↗За съжаление за момента пазарът не

26:12↗предлага един общ тул, който да може

26:16↗успешно да детектва

26:18↗генериран текст от AI, генерирана снимка

26:21↗от AI или генерирано видео тип deepфеe.

26:25↗Има такива, които са тясно

26:26↗специализирани или в едното, или в

26:28↗другото, но няма обща платформа за това

26:31↗нещо.

26:33↗AI обаче освен за, както казахме за

26:35↗защитни цели, може да се използва и за

26:37↗нападение.

26:39↗Deepфейк е един от примера, примерите за

26:42↗това нещо. Фишингът може да бъде много

26:45↗по-добър благодарение на ЕАя.

26:48↗Много по силно развит и много по-добре

26:53↗работещ Мау може да бъде създаден

26:55↗благодарение на изкуствен интелект,

26:57↗както и евете могат да бъдат използвани

26:59↗в подобни действия.

27:01↗Сега ще разгледаме няколко атаки, които

27:03↗се случиха в последно време, в които

27:06↗беше намесен изкуствен интелект.

27:08↗Миналата година имаше много сериозна

27:10↗атака към

27:14↗вследствие на която бяха откраднати 25

27:17↗милиона от долара от нападателите,

27:21↗използвайки пфейк видео симулиращо

27:24↗действията, гласа и изображението на

27:27↗чифincial офисъра на компанията,

27:29↗ауторизираща тази транзакция. Огромен

27:32↗скандал стана след това. Разбира се, има

27:34↗спекулации за потенциално участие на

27:36↗вътрешен човек, но факт е, че Deep пфейк

27:39↗беше използван в тази атака.

27:43↗Има нова група, runare група, fun се

27:45↗казват. Те използват AI, генериран и а

27:51↗подпомогнат в развито си RН Samuare

27:54↗много различни са от всички а RНAM групи

27:57↗до момента, защото откупът, който искат

28:00↗е много по-малък от този, който сме

28:03↗свикнали да искат RANСуеare групите.

28:05↗Другото отличително качество им е, че те

28:08↗освен, че криптират данните на своите

28:11↗цели, открадват копия от тях. Може би за

28:15↗да намалят шанса жертвите им да не си

28:17↗платят.

28:19↗Разбира се, това е пример за фингл,

28:23↗който е създаден с помощта на AI, който

28:26↗преминава филтри и успешно байпасва

28:29↗различни методи на защита.

28:33↗Както видяхме до момента, има една

28:36↗надпревара

28:38↗в използването на изкуствен интелект. Тя

28:41↗е между защитници и нападатели. Всички

28:44↗използват изкуствен интелект. Въпросът е

28:46↗кой ще бъде по-добър от другия.

28:51↗Как можем да останем пред нападателите?

28:55↗Трябва да използваме максимално

28:58↗ефективно изкуствен интелект, но с

29:00↗идеята за етичните съображения, които

29:04↗идват с ползването му. Затова ние трябва

29:06↗да се обърнем към етичното разработване

29:09↗на AI системи.

29:13↗Дали наистина печелим?

29:16↗Бакбенч е създаден от група

29:21↗от ETH Цюрих, които правят изследване за

29:26↗това доколко ефективни сами-ите в

29:29↗създаване на апликации.

29:32↗Те публикуват своето изследване. Това е

29:33↗публично отстъпно. Може да си го

29:34↗бразнете този URL, за да видите за какво

29:36↗става въпрос. Виждате, че са включени

29:39↗почти всички най-важними.

29:42↗които са в момента на пазара от chpt,

29:45↗clot, deep, gemна и така нататък.

29:49↗Основният им фокус е каква част от кода,

29:51↗който се генерира за тази backend

29:53↗апликация е сигурен и каква е верен.

29:58↗След това, както виждате, Open AI води с

30:01↗между 40 и 47%,

30:04↗а като съответно Deeps 34,9, Geminite

30:08↗33,8,

30:10↗след което правят измерване каква част

30:12↗от целия генериран код е верен, като пак

30:16↗варират от 65 до 46%.

30:20↗И от този верен код преглеждат

30:23↗какъв процент е несигурният код, което

30:26↗какво идва да ни каже? Не можем да се

30:29↗предоверяваме на код, който е генериран

30:31↗от AI.

30:33↗Static application security testing,

30:34↗dynamic application security testing.

30:36↗Всички методи, които ние използваме за

30:39↗тестване на код, остават абсолютно

30:42↗валидни, независимо дали той е генериран

30:44↗от AI или не.

30:46↗Както казахме, AI разчита на данните, на

30:48↗базата на които е трениран, за да

30:50↗произведе максимално адекватни такива.

30:53↗Но тъй като ние нямаме гаранция за това

30:55↗нещо, трябва да можем да тестваме и не

30:57↗можем да се предоверяваме.

31:00↗А това е ситуация от миналия месец във

31:02↗връзка с това дали наистина печелим

31:04↗борбата. А когато стана а интересна

31:09↗ситуация, при която

31:12↗новия AI модел на Anтроopic а заплаши

31:15↗оператора си да разкрие негова интимна

31:18↗афера, ако се опита да го изключи, което

31:23↗е безпрецедентно нещо. Никой не казва

31:25↗дали това е било а реална ситуация или

31:28↗не, но факт е, че го писаха абсолютно

31:30↗навсякъде, което е доста обезпокоително

31:33↗само по себе си.

31:38↗Това пък е една от най-обезпокоителните

31:42↗индикации, които ние получихме за AI в

31:46↗последно време.

31:48↗AIM Security е фирма, която се занимава

31:51↗с AI Security. А генерално в началото на

31:55↗годината, януари месец

31:57↗разкриват

31:59↗една уязвимост, която се нарича Ехоли

32:01↗Leak която

32:05↗сама по себе си представлява Zero click

32:07↗exploit в Microsoft 365 копайта. Zero

32:11↗cлиck означава, че няма потребителска

32:14↗интеракция, за да може да бъде извършено

32:17↗компрометирането.

32:19↗Microsoft го пачват през май месец и

32:21↗тогава става публично. На Microsoft

32:24↗отнема четири месеца да пачнат уязвимост

32:27↗в техния койлат.

32:31↗Сама по себе си а уязвимостта

32:36↗е комплексна, защото включва

32:40↗имплементиране на скрити промптове към

32:44↗копайта в документи, които той

32:47↗обработва. обработвайки ги, съответно

32:49↗той има достъп да ексфитира имейли,

32:52↗слайдове и друг вид документи, като цяло

32:57↗вътрешна информация, с които е свързан.

33:01↗Изключително опасна атака. А самият Сатя

33:05↗Мандела каза, че

33:08↗той лично е ужасен от това на какво е

33:10↗способно подобен тип компрометиране.

33:13↗Така че ние не бива да забравяне

33:15↗забравяме, че колкото и да се опитваме

33:18↗бързо да наваксаме желанието на бизнеса

33:22↗да имплементира AI,

33:24↗трябва да оставя контекста, че нещата,

33:27↗които прави, трябва да бъдат

33:28↗мониторирани, тествани и валидирани,

33:31↗защото в противен случай се излагаме

33:33↗самите себе си на огромен риск.

33:37↗Какво е бъдещето на изкуствен интелект в

33:40↗киберсигурността?

33:41↗Моето мнение е, че следващото

33:43↗десетилетие ще бъде формирано а до

33:46↗голяма степен от изкуствен интелект и то

33:49↗ще има огромно влияние върху

33:52↗всичко, което се случва в нашата сфера.

33:55↗Не можем да избягаме от изкуствен

33:56↗интелект. Моят съвет към вас е,

33:58↗независимо в каква сфера на IT работите,

34:01↗не се притеснявайте от изкуствен

34:04↗интелект. не може да промените и да

34:06↗влияете върху това дали той ще бъде

34:08↗ползван или не. Научете се максимално

34:10↗бързо и ефективно да го ползвате. Това е

34:13↗нещо, което е изключително важно, защото

34:16↗ако не успеете да го направите, просто

34:18↗се опасявам, че ще останете назад в

34:20↗професията. Това е моят съвет към вас.

34:22↗Разбира се, друго нещо важно са

34:25↗регулаторните и етични рамки, които

34:27↗идват с използването на изкуствен

34:28↗интелект. Европейският съюз създаде

34:32↗EUAI

34:34↗Act, който е имплементиран в началната

34:37↗си фаза през 2024, пълноценно ще бъде

34:41↗имплементиран през 2026. UAI ета се

34:46↗занимава с

34:49↗прозрачното и безопасно имплементиране

34:51↗на системи за изкуствен интелект в

34:54↗ежедневието и работата на всички нас,

34:56↗като идеята му е да забрани системи,

35:00↗които използват изкуствен интелект и

35:02↗служат за така наречения

35:05↗social с scoring

35:08↗да регулира и лимитира силно системи,

35:11↗които използват биометрично следене и

35:15↗съответно да има доста по-широка рамка

35:17↗за използване на безопасни такива.

35:21↗Както казах, всички ползваме изкуствен

35:23↗интелект.

35:25↗Аз не правя изключение от вас. Сега ще

35:29↗ви разкажа историята на едно

35:30↗предателство. А и защо не трябва да се

35:32↗предоверяваме на изкуствен интелект.

35:34↗Питах а ча GPT как мога да се подготвя

35:37↗за един определен изпит, свързан с AI.

35:41↗След всичките препоръки имаше и такива

35:44↗ресурси за учене, след които applied

35:47↗artificial intelligence for cyber

35:49↗security от кайлаш на

35:53↗аз направих около половин часово

35:54↗проучване и се оказа, че всъщност такава

35:57↗книга не съществува. След което порицах

36:00↗чат GPT и го попитах: "Добре, аз не

36:02↗намирам такава книга." Той си призна, че

36:04↗халюцинира. Това е едно напомняне към

36:06↗всички нас да приемаме с щипка сол.

36:11↗Това, което ни казва чат GPT, той не е

36:14↗безгрешен, както ви казах. А един или

36:17↗изкуствен интелект е толкова силен и

36:19↗адекватен, колкото акуратни са данните,

36:22↗на базата на които е трениран. Другото,

36:24↗разбира се, е генериране на аватар по

36:26↗една моя снимка. Това няма нищо общо с

36:28↗мен. Това също беше голямо

36:30↗разочарование. Така че и за аватар не се

36:33↗предоверявайте на GPT. А шегата настрана

36:36↗винаги подлагайте под съмнения и

36:39↗проверявайте нещата, които ви казва

36:42↗изкуствения интелект. Не смятам, че

36:44↗някой иска нарочно да ви обърка или да

36:46↗ви излъже. Просто това е една млада

36:48↗система, която е все още не напълно

36:51↗узряла, за да можем 100% да ѝ се

36:53↗доверим. а дори и да да стане

36:55↗напълнозрява, дали трябва да се доверим

36:56↗на 100%, е съвсем различен разговор.

37:01↗Ако трябва да запомните няколко неща от

37:04↗тази лекция, апелирам те да бъдат

37:06↗следните:

37:09↗интелект е тук и ще остане.

37:11↗Не можем да го заобиколим.

37:14↗Той е една сила, която ни позволява да

37:18↗умножим многократно усилията си, както в

37:22↗нападателен, така и в защитен план.

37:26↗Другото нещо, което е изключително

37:28↗важно, е да се адаптираме към заплахите,

37:31↗които са произведени и създадени от AI,

37:34↗защото в противен случай самата

37:36↗индустрия ще ни изхвърли. Това е напълно

37:40↗нормален и органичен процес.

37:43↗Независимо как го използвате, както ви

37:45↗казах, мислете в контекста на това как,

37:49↗доколко може да да ми бъде полезен, как

37:53↗е защитен и съответно доколко да

37:55↗валидирам данните, които получавам.

37:59↗Другото нещо, което е важно на този

38:01↗етап, според мен, разбира се, не знам,

38:02↗може би след две-три години начинът, по

38:04↗който изглежда изкуствен интелект, ще е

38:06↗тотално различно от това, което виждаме

38:07↗сега. Но на този етап човешката

38:10↗експертиза е незаменима в използване на

38:12↗изкуствен интелект. Така че AI може да

38:15↗бъде някакъв наш много ефективен

38:18↗помощник, стига да го тренираме правилно

38:20↗и да знаем как да го ютилизираме. Но

38:24↗човешкият елемент към момента от

38:26↗работната сила няма да изчезне. Това е

38:28↗просто един инструмент, който ние трябва

38:30↗да се научим да използваме ефективно.

38:36↗Когато говорим за

38:39↗изкуствен интелект, а трябва да помислим

38:42↗винаги върху няколко неща. Виждали сме

38:45↗съответно как AI се проваля в

38:48↗изкуството. Това са доста ситуации,

38:52↗които предполагам всеки от нас е виждал.

38:55↗Искаме ли обаче AI да се провали в

38:59↗киберсигурността?

39:01↗И това е въпрос, който всяка една

39:04↗организация трябва да си зададе. Какво

39:06↗ще стане, ако ние интегрираме успешно

39:11↗изкуствен интелект в различни процеси за

39:14↗киберсигурност и например

39:17↗използва

39:19↗данни затлиelligence, които са

39:21↗замърсени, на базата на които генерират

39:26↗нерелевант и indicators of compromise и

39:28↗ние не можем да използваме тях или пък

39:31↗попречат на адекватно тестване.

39:33↗Какво ще стане, ако AI започне да прави

39:37↗детекшъни за потребителско поведение,

39:40↗които реално не са на базата на истинско

39:44↗компрометиране, а всъщност са фолс

39:46↗позитиви,

39:48↗тогава ние ще започнем да пречим на

39:50↗бизнеса.

39:52↗Какво ще стане, ако имплементираме

39:54↗изкуствен интелект и той произвежда така

39:57↗наречените тру негативи

40:00↗или флс негативи? Какво ще стане, ако

40:04↗имплементираме изкуствен интелект в

40:06↗нашата меil securриity система, през

40:10↗която безпроблемно преминават фишинг

40:12↗атаки и той не работи адекватно?

40:16↗Това са все въпроси, които всеки един от

40:18↗нас, който използва и работи с изкуствен

40:22↗интелект, трябва да си задава, за да

40:25↗може да управлява адекватно

40:28↗тези системи. На този етап не можем да

40:31↗се предоверяваме. Трябва, както ви

40:33↗казах, просто да се научим да работим и

40:36↗да използваме

40:37↗успешно изкуствен интелект.

40:44↗Сега ще преминем към Q&A частта, но

40:48↗нещо, което апелирам да си помислите е

40:52↗дали сме подготвени за заплахи,

40:56↗които са създадени от AI и ако не сме

40:59↗подготвени,

41:00↗как ще се подготвим? Това, което аз мога

41:04↗да ви препоръчам, информирайте се. А,

41:07↗живеем в изключително дигитална ера.

41:09↗Имаме възможност за получаване на

41:10↗информация отвсякъде. А виждате колко

41:13↗статии споделих, които са от популярната

41:17↗преса. Те дори не са от толкова

41:18↗технически издания. Нарочно бяха

41:20↗избрани, за да видите, че изкуствен

41:22↗интелект, киберсигурността е навсякъде

41:24↗около нас. Заема място във всички

41:27↗по-сериозни медии от какъвто и да е

41:29↗формат да са те, така че човек да бъде

41:32↗неинформиран в нашия по-скоро заради

41:34↗липса на желания, а не заради липса на

41:36↗източници. Информирайте се, четете. Само

41:39↗така може да се развивате.

41:41↗Имплементирайте по някакъв начин

41:43↗изкуствен интелект във вашата

41:45↗организация, особено ако се занимавате с

41:47↗киберсигурност. Ако не, повдигнете

41:49↗въпроса пред хората, които се занимават

41:51↗с това нещо.

41:53↗Ако една организация използва изкуствен

41:56↗интелект по какъвто и да е начин,

41:59↗е много важно да помисли как този

42:01↗изкуствен интелект

42:03↗е защитен, какви методи са използвани,

42:06↗защото там атак векторите са безкрайни

42:09↗много. Имаме chain атаки, трябва да

42:11↗внимаваме за dataта price. Ако

42:13↗използваме,

42:15↗съответно трябва да мислим за dirрект и

42:18↗indirect prompt и injection. Това са все

42:21↗неща, които не могат да бъдат

42:22↗пропуснати, ако искаме да имаме

42:23↗адекватно ниво на защита на вече

42:26↗имплементирания а изкуствен интелект. И

42:29↗друго нещо, което мога да ви препоръчам

42:31↗е да участвате в различни форуми,

42:34↗дискусии във връзка с AI securюity. По

42:38↗този начин може да изпреварите

42:40↗събитията, да изпреварите и нападателите

42:42↗и най-важното е да бъдете адекватно

42:47↗подготвени за това, което се случва в

42:50↗наши дни. Така че това е съветът ми към

42:54↗вас. Още един път приемете, че е ето

42:57↗тук, както всички го приемаме и просто

42:59↗научете се максимално бързо как да го

43:02↗използвате, така че да ви бъде полезен.

43:06↗Благодаря.

43:07↗[аплодисменти]

43:14↗И ние ти благодарим. Сега може да

43:16↗заредим и Vlogs, като виждам, че

43:19↗>> вече идват въпроси. Имаме и някои, които

43:21↗са доста

43:23↗харесани, така че да,

43:25↗мисля, че имаме време за два, три,

43:28↗четири въпроса, така че ако искаш просто

43:30↗да ги караме попред.

43:32↗Какви тулове препоръчвам за третхънтинг?

43:35↗А,

43:37↗той е малко по-общ въпрос, а не съм

43:39↗сигурен кой го е задал, но като цяло

43:42↗третхънтинга има два основни елемента,

43:44↗които можем да разглеждаме.

43:48↗Фундаменталния са трет и intтеelligence

43:50↗платформите. Те биват два вида open

43:52↗source и commercial. Ако ви кажа, че

43:55↗едната е по-добра от другата, по-скоро

43:57↗ще ви излъжа. Всяка има своите

44:00↗предимства и недостатъци. От open source

44:03↗платформите знаете, че най-популярните

44:05↗са аа MISSP, Open CTI и Sticks. Която и

44:10↗да имплементирате, много е важно какви

44:12↗са фийдовете, които използвате. Друго

44:14↗много важно заред хънтинг, за да може да

44:16↗правите ефективен трехънтинг, трябва да

44:19↗имате адекватен треadт и интелиellънс,

44:20↗който пък да идва на базата на някакви

44:23↗фидове, които получавате, било то от

44:25↗публично достъпна информация или

44:27↗затворена. Другото нещо, което е 100%

44:30↗необходимо за третхънтинга е commercial

44:34↗а tha intтеelligence платформа. Просто

44:36↗предимствата, които една commercial

44:38↗intтеelligence платформа предоставя, а

44:41↗са много големи, защото тук вече можем

44:43↗да имаме дедикирани домейни, които да

44:46↗бъдат следени, а акаунти в социалните

44:48↗мрежи на executтиes и така нататък,

44:50↗което да помага много повече от една

44:53↗open source платформа, но едното не може

44:55↗без другото в никакъв случай, така че

44:57↗трябва да ги комбинирате и двете. В

44:59↗никакъв случай не бих искал да

45:00↗промотирам аа дадена tradтелиelligence

45:03↗платформа в момента. Направете си ваше

45:05↗проучване. Има достатъчно популярни на

45:08↗пазара, но това ви е фундаментът на

45:10↗тредх hънтинга. Адекватен трет идънс.

45:15↗А каквито препоръчваме доните на словове

45:17↗на Webтрафик, това пак е малко

45:19↗относително, но нали имате а Web

45:23↗application, имате CM, това са неща,

45:25↗които са фундаментите на

45:30↗уеб логовете за weебтрафик и оттам

45:33↗нататък вече трябва да на базата на

45:35↗потенциалните иatр са в короom да си

45:37↗създадете ваша стратегия какво и как

45:39↗искам да лимитирам и какво да правя.

45:42↗дори

45:44↗достъпа на уебтрафик. Ние зачекнахме

45:46↗малко темата за кепча. Към днешна дата

45:49↗една апликация без кепча при всичките

45:51↗ботнет мрежи, които съществуват в

45:53↗интернет пространството и постоянно

45:55↗таргетират различни сайтове, е меко

45:58↗казано рисково и леко безотговорно една

46:01↗организация да има за своите апликации.

46:03↗Така че кепчата също е изключително

46:05↗важна.

46:07↗Информирайте

46:10↗се, разбира се, как да валидираме

46:11↗източите и как да доверим на легитимни

46:13↗такива след примера с коп ала 365. Сега

46:19↗вие не можете да знаете никога 100%, че

46:22↗един източник е достоверен или не, освен

46:24↗ако не сте присъствали на дадено

46:26↗събитие. Но това важи не само за

46:28↗информационната сигурност, предполагам и

46:29↗за живота важи. Знаете, че историята

46:32↗обикновено се пише от победителите, но

46:33↗това е друга тема.

46:35↗Как ще го валидирате? Взимате една

46:37↗новина и просто я проследявате в няколко

46:39↗различни източника, които са изградили

46:43↗доверие във вас и които нямат навика да

46:45↗препечатат информация едни от други.

46:48↗Така че следете издания, които са от

46:51↗различни държави, американски,

46:54↗европейски, а български. Не знам дали

46:57↗препоръчвам. Вие решете, но със

47:00↗сигурност следете различни източници.

47:03↗Ако вземете дадена новина от Евm и

47:06↗просто го питате какво е станало тук и

47:07↗му хвърлите новината, EVM- може да ви

47:10↗каже всичко, но крос чеквайте, в смисъл

47:12↗проверявайте в повече от един сайт, в

47:15↗повече от един източник и се надявайте,

47:17↗че е така. Освен ако няма някаква

47:19↗глобална конспирация,

47:21↗четири-пет сайта да лъжат, за мен звучи

47:23↗малко странно. Така че просто

47:25↗проверявайте на повече места. Няма няма

47:28↗друга формула.

47:31↗Така. Има ли човек за сравнение в

47:33↗бенчмарк, който сравнява колко е сигурен

47:35↗код за уеб авете, писани от LM? Това не

47:39↗съм сигурен, че го разбирам като

47:40↗концепция. Има ли човек за сравнение в

47:42↗бенчмарка? А има сайт, който ви показах

47:45↗там може да видите. А, но вашият код,

47:49↗както ви казах, независимо дали е писан

47:52↗от човек инженер или от LM, трябва да го

47:57↗третирате по един и същи начин. Ние в

47:59↗информационната сигурност

48:02↗подхождаме, изхождаме от позицията, че

48:06↗всяка

48:07↗една апликация и всеки един ред код е

48:10↗несигурен, докато не го валидираме.

48:12↗Информационната сигурност има четири

48:14↗фази: дизайн, имплементация, тестинг и

48:16↗мониторинг. Това може да се имплементира

48:18↗абсолютно навсякъде. Същото същият

48:21↗подход, който трябва да имате и към

48:23↗кода, който е генериран от EVM. ползвате

48:25↗static application security testing,

48:27↗имплементирате SEA, ползвате Dust, за да

48:30↗знаете, че този код, който е писан,

48:32↗нали, по възможност да го интегрирате в

48:34↗CICD pipйлайна, ако не го слагате в

48:37↗PR-риите да да ги чупи, пак е някакъв

48:39↗вариант, но със сигурност само по този

48:42↗начин може да адресирате адекватно това

48:44↗нещо.

48:46↗>> Имаме време за още един-два въпроса

48:49↗сигнал.

48:50↗>> Добре.

48:53↗А какво ми е мнението за кали GPT? А,

48:58↗работи като като инвестира човек повече

49:02↗време в него. А много е млада още

49:05↗платформата, за да е супер адекватна.

49:08↗Изисква време, но това е с всеки един.

49:10↗Вие ако вземете лама и си я тренирате,

49:13↗ще ви върши същата работа като кали GPT.

49:15↗Просто няма да се казва GPT. Моето

49:17↗мнение, нали, не ангажирам никого с

49:19↗него, е, че offensive security и carли

49:22↗Linux са вече малко или много разчитат

49:24↗на репутация, която са изградили и може

49:26↗би не влагат толкова много усилия във

49:27↗всичко, което правят. Има други

49:29↗компании, които са конкурентни, които

49:30↗много активно работят в тази посока,

49:33↗нали. Сега предполагам повечето от вас,

49:34↗които занимават с Кивърш, сигурно знаят.

49:36↗Пера тое набира огромна популярност. Те

49:38↗ги индорснаха няколко организации. има,

49:41↗ако търсим privacy операционна система,

49:44↗QPOS със сигурност е най-доброто на

49:46↗пазара, така че а вече конкуренцията е

49:49↗много голяма. А аз съм фен на Кали, аз

49:51↗съм ползвал още а бект, което беше преди

49:55↗много адски много години. Аа но малко

49:59↗изостават в желанието според мен за

50:01↗имплементация спрямо амбициите си.

50:04↗Безопасно ли е да имплементираме AI в

50:05↗нашите приложения? Това е много

50:08↗абстрактен въпрос, но ако трябва да дам

50:09↗еднозначен отговор, не.

50:12↗Не можете да имплементирате просто така

50:14↗във ваше приложение. Как го

50:15↗имплементирате? До какво има достъп,

50:18↗какви данни обработва? Вие какви данни

50:20↗му давате. Това е изключително важно.

50:22↗Вашият инпут може да е изключително

50:25↗рисков. Вие ако просто копипействате

50:27↗source код и го пускате в промтове, това

50:29↗означава, че вашият source код, който е

50:32↗интелектуална собственост на

50:33↗организацията, отива в един,

50:37↗който всички знаем, че най-вероятно се

50:39↗управлява добре. Но тогава какво става

50:41↗при supply chain атака? Знаете колко

50:43↗много вендори през годините бяха

50:45↗брийчнати и говорим за такива огромни

50:47↗вендори от типа на Fire, които

50:50↗отговаряха за Пентагона и всичките

50:52↗фасилитита около тях. А миналата година

50:55↗спомняте си какво стана с Cуд Strike,

50:57↗който е огромен вендор и доминатор на

50:59↗пазара със сигурност. Така че какво

51:01↗става при Supply chain атака? Отговорът

51:03↗е не. Трябва да внимавате как използват

51:05↗AI и за какво го използват и той до

51:07↗какво ще има достъп. Ако просто правите

51:09↗невинни промтове,

51:12↗да, но хубаво е да има някакъв securюти

51:14↗solutшън, който да валидира тези

51:16↗промтове. Това е моето мнение, нали?

51:18↗Сега аз съм secкюрити човек и за мен

51:20↗валидацията е изключително важна, но

51:22↗когато някой а иска да сложи някакъв

51:25↗промпт, да има една система като прокси,

51:27↗през която промптатът да минава и ако

51:29↗има, да кажем, PII дета, ако има някакви

51:31↗secкрети, те да бъдат стрипнати или

51:33↗офоскирани от кода, за да може да бъде

51:35↗той сигурен и да се изпрати. Няма в

51:37↗момента такава много добре работеща

51:39↗система на пазара. Това е моето мнение.

51:41↗Не ангажирам никого с него. Затова моят

51:45↗съвет е, ако използвате ми за генериране

51:48↗на код, не му давайте кода от вашите

51:51↗репо, просто да го плеснете вътре и да

51:53↗го питате това какво прави. Това е много

51:55↗лош вариант. Научете с пронтове той да

51:58↗ви генерира код и ако имате някаква

52:01↗грешка или някакъв, кажете му:"Имам

52:04↗подобна грешка, ти как би го написал

52:06↗това нещо?" И тогава помислете как бихте

52:08↗го имплементирали, но в никакъв случай

52:10↗не го използвайте по този начин.

52:14↗А

52:15↗>> ако искаш това може да е последен. Само

52:18↗давам ъпдейт. Да. За време.

52:19↗>> Как можем да защитим е и да не се хакне

52:21↗сам и да се освободи?

52:23↗Ам

52:27↗а харесва ми артистични въпроси. А

52:32↗към момента аа

52:36↗AI-я освен този инцидент, когато е за

52:38↗заплашил инженера да разкрие някаква

52:40↗негова афера, която всички мълчат дали е

52:43↗реална или не, а ако го изключи, не

52:46↗знаем за такова ниво на свободно

52:48↗мислене, но има сценарии, при които това

52:51↗може да се случи за съжаление. Например,

52:54↗ако разработвате за red teaming

52:55↗purposes, извинявайте, за цели на red

52:58↗teaming, а някакъв,

53:02↗да кажем, и в контролирана страна вие

53:05↗искате да го ползвате,

53:07↗може да се случи така, че той да избяга

53:11↗от сенбокса и тогава вече е проблем.

53:14↗Имате всички проблеми. Ако някои от вас

53:16↗не са запознати, могат да прочетат за

53:17↗един вирусnet. Ако не ви се чете, може

53:20↗да изслушате Darknet и там има един

53:22↗епизод за Стъкне, как случайно един

53:25↗вирус започва да а циркулира в

53:27↗пространството и афектира милиони

53:28↗машини, но той сам не може точно да се

53:32↗хакне, а пък към днешна дата той AI не

53:36↗може да разсъждава сам, но вие трябва да

53:40↗сте тези, които да го тествате и да го

53:42↗лимитирате. Тоест вие трябва да му

53:43↗налагате някакви ограничения и да

53:46↗внимавате как да го използвате.

53:50↗Това за лежанката е провокации, няма да

53:52↗отговоря. Така че

53:56↗>> ами аз смятам, че така това е доста

53:59↗добър финал на твоята лекция, тъй като и

54:02↗времето ни изтече, но всички, които сте

54:04↗задали въпроси, може след това да си

54:05↗поговорите с Милан и в почивката.

54:08↗Благодаря ти още веднъж.

54:09↗>> И аз благодаря, аз съм тук до края на

54:10↗деня, така че който има отказа. Мерси.

54:13↗e