253 - Започнете от А и Б в киберсигурността

3:10↗очакване, че това ще бъде доста сериозен инструмент в ръцете на определен тип групи, а и сега вече може би виждаме първата реализация на това. >> Така че това е може би новото тази динамика в разбирането на това какво е възможно, какво не е и връщането към базисните разбирания за информационна сигурност. А ту какво е новото наистина? Мисълта ми е, че за кибератаките от много време се говори, че на практика огромна част от тях са автоматизирани така или или иначе, нали? Аз основното нещо именно автоматизация, като се използва AI за атаки или нещо друго. Сега до голяма степен генеративника като langage моделите, които в момента виждаме, а бяха оверхайпнати така на чист български до голяма степен, без да се вникне в техните лимитации и въобще технологично да се погледне >> докъде стигат и какво може да направи един такъв модел. И бяха натоварени с доста нереалистични очаквания. Самият

4:11↗сам Олтман го споделяваме, не само той, всичките водещи експерти в областта. Да. >> Аа до голяма степен това е се базира на някакъв ентусиазъм, от друга страна се базира на чисто бизнес подход в развитието на тия технологии, но те естествено могат да бъдат използвани като, да го наречем, като помощник, като нещо, което може да ти помогне да стигнеш до определено решение по-бързо, хм >> но не на този етап не е изцяло способно да замени а експертиза. в пълния смисъл на думата или да провежда комплексни атаки самостоятелно и самостойно. Хм. >> Аа по-скоро е помощник. >> В много аспекти мога да помогнат да пише код, естествено, да създава някакъв процес, да изпълнява опадрени неща автономно, полуавтономно в някои случаи. Но >> на фишинга да е на българския, да не е на шльокавица. >> Е, то това е най-простият пример, но дайвидния >> най-видния, да. В смисъл езикът е нещо,

5:06↗което в основата на тази технология така или иначе макар че езикът е малко по-комплексно разбиране в тоя контекст, но защото език може да бъде и изображение, но както и да е. Така че да, това нещо категорично е така, но не е само в тази посока. А, но >> пак това, което ми направи впечатление го споделям, е, че нали това, което се оценява като възможности на тая технология е да има конкретен, да има конкретен фокус, да има конкретна проблем, който се решава. Не, по принцип сега ще ни замени и ние по принцип това ще променим драстично земята и всичко останало и така нататък >> и ще дойде Skynet и ще избие всички в смисъл такъв тип нали фолклор нали няма смисъл >> но тази реализация на докъде стига технологията нещо което се случи тази година категорично >> добре а от гледна точка на клиентите къде мога един такъв въпрос къде най-често какво най-често про пропускаш

5:55↗защото всичко живо говори за агенти говорим за VIP програмиране говорим във всякаква форма използване на AI-та. Може би това в момента е самоцъно малко да използваме AI заради самото използване на AI, но въпреки това какви рискове според тем най-начесто >> ами то това е интересното, че в крайна сметка кодин е нали е нещо, което ще остане по един или друг начин. >> А дали това може да замени entтерпрайз решение, което зад зад стоят професионалисти, разработчици и така нататък, не. Но това, което може да направи е да създаде много бързо конкретен продукт. говорим за часове буквално, а в който няма мисъл за secкюрити, няма мисъл за защита на данните и така нататък. Той просто работи по един начин. Как работи, >> нали? Човек, който го създава, не го интересува особено. Въпросът е да функционира. Така че разликата между преди и сега и въобще VIP кодин контекста е, че във vibe кодинга в

6:52↗момента забелязваме, че всеки човек буквално с бизнес идея в главата си е способен да създаде някакъв тип продукт, който да бъде функционален. >> Да, >> само дето в него няма нищо, което да, освен ако не го кажете в промт някакъв, нали, защити нещо си, а то няма да се случи от само сеебе си много често. Така че например всякакъв тип креншъри, API ключове и така нататък се качват навсякъде повсеместно и така нататък и достъпът до данните не е за в смисъл тотално се отваря, така да се каже плацдар дарм за всякакъв тип експлоатация на и всякакъв тип атаки. >> Хм. >> Така че риск в това в масовостта на това явление. Не толкова в самото явление като такова, по-скоро фактът, че всеки има възможността да го прави >> и да продуцира решения. Те могат да бъдат само вътрешни, но това не ги прави по-малко проблематични от гледна точка на последствия. Така че >> това е основния риск и аз съм се

7:55↗фокусирал върху тази тема конкретно на този етап да виждам експериментирам с тия модели. Виждам къде са огромно количество скрити ка подводни камъни, които обикновен човек с идея няма да ги види дори и да ги осъзнае. Така че >> в момента отваряме огромно поле за изява на >> Да. на определен тип. >> Ясно. В практиката си срещал ли си вече такъв тип атаки като да кажем отравяване на модели или инжектиране на пром? Промт е нещо нещо, което доколкото разбираме е новият тип SQM инжекция. >> Да, да. Не в смисъл >> Има ли примери такива неща? >> О, да, има редица примери. Аа най-така коварния, ако въобще може да се нарече така аа indirct prompt injection, така наречени. То какво какво означава това да отсима на зрителите? >> Ами представи си, отваряш една уеб страница, в която отзад в кода има инструкция като промт си го представи, което когато има генеративен изкуствен

8:53↗интелект отзад, той ще изпълни без въобще потребителя да разбере. Хм. >> Тоест >> ти виждаш една нормална страница HTML някакъв сайт, обаче в него имаш такъв тип промт, който не се вижда скрито от потребите, така да го наречем. Изпълнява се, подава към изкуствения траек, той изпълнява и съответно примерно дай ми данни за последното тримесечие на компанията примерно и ми прати на еди кой си имейл. >> Мхм. >> Там в в този процес няма автентификация, няма ауторизация, няма редица други неща, които биха предотвратили в една дори в стандартна сико инжекция да се предотврати това нещо. А така че е много възможно без съзнанието на потребителя да се изпълни определен тип кум да се подаде определен тип промт или команда към изкуствения интелект, той да изпълни и да предаде данните някъде си, без никой да разбере. Хм. >> Тоест има доста нов тип а вектори на атака, които тепърва трябва да ги

9:45↗осмисляме до голяма степен. Те не не са комплексно гледна точка на secкюрити проблем, но са комплексно гледна точка на реализация на изкуствен интелект в даден тип, защото той се вгражда във всяка една, да кажем, система достъп до данни от много места. Ако искате да е полезен и трябва да му да го захраните с информация конкретно, >> така че той може да гледа данни от една система, от друга система и така нататък и той няма как да разграничи промта >> понякога дали идва от Гошо или от Пешо, нали, да речем. Така че има много на тая тема какво да се мисли, но това е такъв пример, който доста се реализира на практика в момента и се вижда пик на подобните ипотеки. >> Добре, а по темата за отравянето на AI модели срещат ли се? >> Не, аз това мисля, че това е малко в това трябва да го мислят по-скоро само Oldman и някои други хора. Dйта позн някакъв тип. Това е по-скоро свързано с

10:34↗машин модели. А и това не смята не смятам, че фундаменталните langage модели, които в момента виждаме, да речем, нат на Gemini, на Open e има тоя проблем. Смисъл това не е нещо, което ние трябва да да мислим, а естествено, ако има някакъв много кастамизиран модел, който се използва вътрешно дадена организация, е възможно това да е до някаква степен да бъде казус, но той е по-скоро проблем с машин модели, отколкото нещо друго. Този тип големи модели. Това последната ми грижа, честно казано, в момента. >> Хм. А, добре. А извън сферата на на AI, така към традиционната сигурност, тука се обърнем, къде според теб най-често българ бъркат българските компании? >> Аз не смятам, че трябва бих могъл да разграничавам български от всяка една друга компания. Принципно тенденциите са едни и същи. Ние сме всички свързани към едно и също а нещо, така или иначе наречено интернет. Така че аз не мисля,

11:32↗че има някаква много голяма специфика в в дадена държава. Те могат да бъдат профини на базата на геополитически мотиви, на някакви други неща, които България в момента не е в основен таргет, но а има специфика от гледна точка на това, че България става все по-интересна на определени групи, все по-примамливо е да се атакуват български компании и все повече се вижда как се насочва вниманието към нас. >> Мм. Така че иначе проблемите винаги са едни и същи. Те не са се променили, няма да се променят най-вероятно никога. Това е свързано с до каква степен се инвестира в в cyбер secкюриity, до каква степен се осъзнава проблемът, до каква степен това помага на бизнеса, как се разбира, интерпретира, как се тества, какво смисъл целият този набор от неща, които всяка една компания по света в момента се занимава така или иначе по един или друг начин, но имаме ли хора, които

12:26↗работят с технологии, винаги има тоя проблем. Така че спецификата е на едно локално ниво може да излезе от геополитика. Може да свърза с геополитика, може да е свързана с конкретен тип, да речем, кажем много конкретен тип профилиране на дадените компании, но не смятам, че ни отличава нещо от глобалните трендове в момента. По-скоро това, което забелязваме е, че българската компания става все по-голям фокус и таргет на да се на повече групи в момента. А от страна може ли така да зададе такъв въпрос от страна на кого е все по българските компании са все по-популярна цел? >> Най-често когато става въпрос за комерсиализация на на тоя тип престъпления ние говорим за ramware dataхо host атаки неща които са свързани с реални възможности да изкарат пари от дадена компания >> х най-вече изнудване чрез изнудване чрез кражба на данни >> а това се е сравнително лесно да се

13:18↗изпълни а зависи от инфраструктурата на на на целта но винаги има начин да се прокрадне някой тук там. Така че това основно е, защото това е бизнес моделът така или иначех. >> А защо съм по-интересен, защото може би а България се подценява в голяма степен в това. Ние си мислим, че сме много малки и незначими. Обикновено гледаме за себе си по един определен начин, >> но за хората, които искат да изкарат пари от подобен тип неща, ние сме просто поредния в списък, който >> Да. И съответно, понеже ние не сме приемали за себе си, че може да сменем такава фокусирана цел, може би не сме направили някои инвестиции в някои компании, може би има пропуски в това отношение, това дава достатъчно възможност да се реализират тия атаки по-лесно. Да. >> Така че ние сме вече от другата година част от еврозоната и така нататък. В смисъл за нас те гледа като една част от другата част на Европа, така или

14:16↗>> част от европейския пазар. >> Така че ние сме част от тоя пазар, ние сме си просто не го осъзнаваме до голяма степен. >> Добре, в тая връзка един такъв въпрос. А за какво клиентите най-често се обръщат към Амата? В смисъл по-скоро може би кога най-често, след като вече са били обект на атака или предварително за да се напишат домашно, така да се каже. И в смисъл, ако се Аз бих казал така, значи причината някой да пазарува cyберcюity се свежда до две неща, нали? Той има една и то не е теория, ами то е просто изследване на темата защо въобще някой си купува нещо, да >> нали очевидно cyбер secюity не е lifeestyle choice, в смисъл не си избираш cyber securюity, защото това е life style, нали, в смисъл се хвалиш навсякъде, че има cyber secкюрити или че няма как да си го сложиш на на като гривна и да да го караш като скъпа кола. Така че по-скоро е свързано с регулации,

15:08↗тоест към това е нещо лека форма на принуда. Ти нямаш много избор, трябва да го направиш, защото идва дора, защото има низ 2, защото има еди какво си и така нататък. Някаква регулация, която те кара, принуждава те да имаш някакви северски контроли. Другата причина е, защото просто те страхат нещо да не се случи. Смисъл, това е основен мотиватор за въобще в сигурността. мотиваторът да не ми се случи на мене е продиктуван съвсем разбираеми тип мотиви, тоест не искаш да ти се случи нещо лошо буквално. >> А така че това е другият мотив. И двата мотива обаче не са правилни от гледна точка на на това да се направи, да се как да се каже, да са приложини а практики за информационна сигурност в правилния контекст, защото истината е, че ако се гледа така на информационна сигурност, тя винаги се гледа като някакъв тип натиск, принуда или някакъв разход, който трябва да се направи, защото

16:01↗трябва да се направи. >> Да. И това не е най-доброто нещо, което нали ако инвестираш парите си някъде, това е последното нещо, което искаш да направиш реално по времето, защото то е форма на принуда. >> Така че ако някой гледа на това като на нещо, което ще му донесе повече бизнес, ако ще му помогне да вземе повече клиенти, ще бъде по разпознаван като бранд и така нататък, тогава, когато това е осмислено в този контекст, има много повече сила зад него, има много повече ресурс, се гледа позитивно като влияние и така нататък. И тези компании, които го правят, всъщност имат реална стойност, изваждат от това да инвестират преди си информационна сигурност. Така че компанията, като се обръща към cyберcюти компании като нашата по тези причини или защото има регулации, които ги налагат да правят някакви неща, защото имат инцидент, които трябва да се справят естествено

16:54↗>> или защото пак то е пак свързано с регулация, трябва да тестват нещо, но те са свързани нещата. Така че за съжаление много рядко се нало съм виждал в и не само в България. По принцип виждам компании, които разбират това в контекста на на нещо, което помага на бизнеса да бъде по-успешен, а не нещо, което просто там трябва да го направим, защото видите ли има еди каква си регулация X YZ или защото лошите ще ни нападнат или нещо по-ново. >> Това не, че не е така, просто не е правилният мотив. А това разбиране свързано ли е с размера на на на компанията? Защото съм чувал редовно изказвания от отрата страна на че големите компании, които аутсорсват тука нещо в България, идвайки със своя опит и размер, традиционно инвестират повече, защото си знаят, че така трябва малките не е точно. >> Ами това е въпрос на маторитет по-скоро, а нищо друго не е. В смисъл големите

17:43↗компании, които визираш, обикновено са компании с традиция и история, които имат >> много добре формулиран corporate governance тип структури, а които са минали исторически погледнато представление неща и са и съответно имат, така да кажем, обнейните структури ресурси, капацитет и съответно разбиране. А нали ако цитираме някои изследвания по темата, естествено компаниите във Fortune 100, нали имат доста повече фокус върху това и той е осъзнат в този контекст. То не е просто нещо като задължение там. А така че аз моята теория е, че няма как да има успешна компания, в която въобще използва технологии без да мисля за информационна сност. То е невъзможно на практика. >> Нито една бизнес цел няма да бъде реализирана, ако няма информационна сигурност. Добре, аз нарочно задавах тоя въпрос, за да отдаря българските импре изцяло българските от чуждите компании и един такъв въпрос доколко по твои

18:40↗наблюдения българският бизнес е киберготов? >> Искам нещо да уточняте, което за мен е важно е това, че нали много лесно да се да се казва, че нали бизнесът не е зря в това отношение. Бизнес българският бизнес не отчита тези фактори. Аз не смятам така. Аз смятам, че българският бизнес се бори с много неща и тука борбата е тегава, защото не става въпрос само за пазарни условия, става въпрос и за други фактори, които нали средата не е лека. Това искам да кажа. >> Така че много аз по никакъв начин искам да да хвърлям някакъв тип >> нали такава констатации, че видите ли ние сме български бизнес, не мисли за това нещо и не иска да го прави нещо подобно. Не смятам така. Смятам, че просто е въпрос на >> а на борба на пазара в моментах >> и ние сме в такава позиция. Така че не може да очакваш, нали, компании, които се борят за за бизнеса си, а едновременно с това да са много добри

19:31↗във всичко, нали, в смисъл няма как да стане. Така че това е въпрос на как да кажем, не е толкова приоритет, колкото на джонглиране с това какво разполагаш в момента. >> Така че по-скоро може би това е раздрителната линия много често, защото става въпрос, нали, то е отражение на всичко останало. Да, >> няма как държавата и бизнес средата да не е най-прекрасната и съответно и ибрески съответно да има супер много инвестиции в него. Това няма как да се сработи. В смисъл това е функция на на средата, функция на бизнес на на пазарния среда. Така че >> затова не смятам, че българският бизнес няма желание и не е киберготов и така нататък. На него му се налага естествено, защото има такива изисквания спрямо него. Но това не означава, че те видители са се запънали. Никой не иска да инвестира в това. Не смятам така. Смятам, че български българските компании като цяло са иновативни,

20:23↗интелигентни и така нататък и смятам, че имат много бъдеще, но въпросът е, че трябва други неща да се случат. Добре. А пак така от твоя опит, наблюдавайки клиенти, партньори и така нататък, кои биха били основните няколко съвета, които ти би им дал, за да се защитят? Какво най-често? >> А аз бих дал съвет, нали, в смисъл да не се фокусират върху някакъв тип невероятно звучащи технологии и а овърхайпнати трибуквени или там буквени абревиатури на протекшъ на системи и така нататък, защита и всякакви други неща. а да се фокусират върху базисните проблеми и те винаги са свързани с до голяма степен с А и B и C, а не толкова с Z накрая. Да. В смисъл винаги може да си купиш нещо много страхотно, което звучи като че лище реши целия проблем на света. В крайна сметка ще копира понякога до основите, когато нали когато човек тръгва и трябва да балансира бюджета си,

21:20↗каквото бърското пане трябва да правят непрекъснато, >> а няма смисъл да се гледа в далечния хоризонт, в който там се ражда някаква невероятна система и ти я купуваш и приключваш, инвестираш милиони и и вече си секюр. По-скоро говорим за потребителския достъп, говорим за администрирането на тоя достъп, как се прави. говорим за периметрова защита на периметра, мрежова защита, неща, които не са от >> не са модерни, не са нови, не са овърхайпнати, просто са стандартни неща, които могат да се направят, със сравнително разумна инвестиция, която да не счупи касичката, така да го нарека. Така че моя моя моят съвет е да се фокусираме върху основите, а там оттам нататъка вече, когато има бизнес възможност и може да си позволи допълните инвестиция, ако и много амбициозни цели, разбира се, за растение трябва да се съобрази, но Мосът е винаги е бил Back to the basics, както се

22:13↗казва. Значи с български [смях] >> да започнем оттам. >> Да, от А и C, в смисъл това наистина е основното. >> Х Добре, един такъв въпрос. Аа напоследък забелязвам, че някак си думата киберсигурност все повече често бива замествана с киберосто устойчивост. Само хайп дума, така популярна дума или има нещо друго за >> Ами това идва от регулацията най-често, защото то звучи по как да кажем, по-бизнес ориентирано, то >> сякаш и включва други неща. Ами в смисъл той има един това се базира също една промяна в парадигмата на сигурността и тя е свързана с реализацията, че няма как да предотвратиш всичко. >> Да. >> Тоест идеята се смяна от и се опитам да спра водопада с ръце до реализация да ще мине някаква вода през ръцете ми и трябва да видя какво ще правя след това. Да. Тоест това да си устойчив, да си устойчив на бурите, да си устойчив на турбуленция, да си устойчив на атаки, да

23:09↗си устойчив на проблеми. Това означава >> Това означава да непрекъснато да получаваш удари в бок, както е в бокса примерно, да ставаш, да се изтупаш и да продължиш да рееш. >> Това означава да си устойчив. Така че това е една тънка смяна на парадигмата, защото преди парадигмата беше превенцията и цар. >> Да. >> Сега парадигмата е а явно няма да можем да [смях] претвъртим нещата. да видим какво може да направим, за да оцелеем в тая ситуациях. >> Така че тя звучи много хайпнато, но всъщност е много по-близко до реалността, отколкото нещо друго. Тоест, ти трябва да си готов да се справиш с проблемите, които неминуемо ще възникнат. И пак искам да обърне много сериозно внимание. Никой няма как да твърди за себе си, че може да предотврати и да спре всичко да се случи и той е много 100% защитен и така на мен може да се случи. на всеки смисъл зависи от комплексността, зависи от други

24:02↗фактори чисто човешки, които могат да се съберат в едната точка и да донесат някакъв проблем и така нататък. Така че по-скоро идеята е какво правим след като се случи. >> Да. Добре. И може би така като на последен въпрос, да обърнем така поглед традиционно за края на един подкаст, по-напред в бъдещето, какво в така близъко или средносрочен период очакваш да се промени в в твоята твоята сфера? >> Аз не очаквам нищо позитивно да се случи по принцип. Аз съм си известен за това. Съжалявам, но не смята не съм оптимист в по никакъв начин. А смятам че интензитетът на определените ти проблеми ще се засили. Хм. >> Очевидно е, че геополитическият светът върви към поляризация. Да. >> Наново, >> къде за съжаление къде не зависи от гледната точка може би, но естествено, че не е добре да се антогонизира каквото и да било принцип, защото това изостря конфликтите. Да. И когато имаш силна

25:01↗поляризация, имаш а е така да го кажем раждане, това ражда фанатизъм и определен тип поведенски модели, които не са най-приятните. Така че тази антогонизация въобще и пояризация води себе си до интензифициране на други фактори, когато имаш конфликти и въобще в обществено ниво и така нататък. Киберсигурността не е нещо, което живее в някаква изолирана а част от вселената. Тя е част от нашето ежедневие. и така иличе. Така че това, което очаквам да се засилят определени тип атаки, да стават по-ефективно гледна точка време за реализация, гледа да стават по-ефективно гледна точка на резултат и така нататък и с пост изкуствения трект и с използване на други технологии, които се раждат в момента. Така че очаквам засилване на напрежението в тая посока. Очаквам повече атаки, очаквам повече компрометирани компании. Съжалявам, но нищо хубаво не мога да кажа. Може би

25:54↗хубавото е, че когато човек се намира в, както казват тежките времена, раждат >> силни мъже. >> Силни мъже >> и силни хора. >> Силни хора, да кажем, да. Не само, защото не е само мъже, нали, със сигурност. Така че силни хора. Така че това може би е позитивното, че това пък от друга страна ще доведе до този а може би тази промяна. >> Мхм. Добре, аз ти благодаря за този разговор. >> А надявам се да сме отговорили така на вашия интерес, на някакви въпроси, които са ви възникнали. Ако пък имате още въпроси, то заповядайте на 25 ноември на Cyber Security and Date Protection forum на на Capital. А междувременно следвайте ни в социалните платформи в YouTube, в LinkedIn, във Facebook, в популярните аудио платформи и до нови срещи. [музика]

26:45↗เฮ [музика]