Киберсигурност в ерата на AI

3:14↗от детската градина са седнали пред компютъра, сглобили са го 5-10 пъти, сглобили са го наново, без да им останат нали свободни части. математически гений с някакъв безспорен талант и само това е начинът по принцип да се развиваш в това поприще. Така ли е? И сега с навлизането на изкуствения интелект стана ли по-лесно да си човек от една от двете страни на барикадата? >> Няма как да е по-лесно, защото а нищо не се променя. Добавяме нов инструмент. Ние, защитниците, имаме този инструмент, хакерите имат този инструмент. Даже става по-трудно, защото защитниците имат този инструмент, но хакерите те са милиони и те имат усилващ ги и ускоряващ ги инструмент, който им прави живота много по-лесен преди десетина години, за да напишеш вирус, който не се детектва от антивирус, е трябвало да имаш някакви познания. Сега просто отиваш, казваш напиши ми вирус, който не се детектва от

4:12↗антивирус, изкуство в интернет го пише. И на практика може да си 12-годишно дете или пет-годишно дете. Няма значение. Ако знаеш какво да напишеш на изкуствен интелект и знаеш откъде да намериш звораен код, той ще ти помогне да спестиш едни 10 години образование и да ти направи инструмент за атака, който досега 12-годишния деца не са имали достъп до такова нещо. >> Тоест в момента работата на засичници става още по-трудна, докато работата на атакуващите е неимоверно улеснена. Аз поне така го сбирам. По-лесно е сега да бъдеш хакер, отколкото да бъдеш защитник, защото защитникът има, нали, пак един инструмент, но сега хакерите стават много повече и техните умения стават на нивото на елитен хакер. Тоест инструментите, с които те разполагат, ги превръщат в елитни хакери, както досега не е имало. Досега за да бъдеш програмист, е трябвало да учиш в университет или да прекараш години в

5:11↗писане на код, за да може да пишеш качествен код, за да създадеш нещо, което работи. Сега просто отиваш, казваш: "Направи ми програмка за еди какво си." Да може от първия път да не стане, но след пет-шест итерации в рамките на няколко дена ти имаш софтуери. По същия начин е с хакерските атаки. Може първата да не успее, но с няколко итерации. Това хакерче, което няма почти никакви познания, прави нещо, което е изключително качествено, изключително таргетирано и успешно, което досега е било извън неговия досег. Защо не сме програмирали изкуствен интелект, така че да стопира подобни >> Ами ние, >> ако говориш ние като човечество, като технологии >> Microsoft използва изкуствен интелект за защита от много години. Значи аз, когато бях в екипа за сигурност на Microsoft 2017-18 г. още тогава Microsoft използваше изкуствен интелект, за да виждаен код на глобално ниво. Тоест те

6:12↗имат сървъри в целия свят. В момента, в който някоя хакерска атака се случи на някой сървър някъде в техен дейта център или в тяхната среда, те я виждат с помощта на изкуствен интелект и това беше още преди почти 10 години. Тоест сега никой не говореше тогава още почти никой не е говорил за изкуствен интелект, но тогава големите компании Microsoft, IBM, Oracle те вече отдавна вече работеха по това нещо и го използваха и хакерите го използваха, но много по-ограничено, защото нямат те тези ресурси. Така че а имаме защита от изкуствен интелект в момента, ако използваме правилните инструменти, но малките компании, които се опитват да се защитават сами с някакви безплатни антивируси, свалени от един Господ знае откъде е, те нямат абсолютно никакъв шанс. >> Окей. А, понеже тръгнахме много бързо в темата за изкуствения интелект, да уточним първо >> има ли истински изкуствен интелект или

7:13↗все още не можем да говорим за истински изкуствен интелект? >> Аз >> и въобще какво е изкуственият интелект? Да обясним. >> Значи изкуственият интелект се мери с а инструменти, които навремето имаше едни тестове, които тества на тюринг. Да, >> точно така. Но има има и доста по-сложни. Има и математически, има и за програмиране, всякакви тестове. И в тези тестове в момента инструментите, които се наричат изкуствен интелект, отговарят на тези тестове на нивото на докторант, завършил докторант в университет. Тоест те отдавна са минали нивото на ученик, аа студент, завършил студент, магистър, завършил докторант, който има PhD. Сега инструментите за машинно обучение, по-скоро машин learning и езикови модели отговарят на нивото на PhD. Тоест, ако аз и ти не сме доктори на науките, изкуствен интелект вече ни е надминал >> до в много отношения. >> Много и това са Да. И това са

8:21↗публичните, известните публични инструменти. Аз съм сигурен, че и Китай, Русия, САЩ, аа големите държави отдавна в прават репозиторите и в своите тайни лаборатории отдавна разполагат с инструменти, които са много по-напред. И ако говорим за изкуствен интелект в нашето усещане за това какво стои срещу нас или какво работи за нас или против нас, то изкуствен интелект има, но истински artificial general intelligence все още няма. Хората, някои хора казват, че ни далят пет години от това, повече години аз смятам, че ни далят няколко месеца от това нещо. >> Няколко месеца, >> да. >> За истински >> AGI теоретично няколко месеца. заради заради това, че има конкуренция. Значи, ако нямаше конкуренция, ако имаше само една компания, която беше монополист на пазара, щяха да се развият много по-бавно нещата. Но в момента имаме китайски, изключително много китайски

9:22↗инженери, които работят по това. Същите много, много китайски инженери работят по роботика. Много американски инженери работят по роботика, по изкуствен интелект, по маши такива машини и алгоритми. И в момента, в който някой пусне нещо ново, всички други се опитват да направят нещо по-добро и го правят много бързо, защото и те имат инструменти за изкуствен интелект. Тяхната работа много се ускорява от това, че те самите имат инструменти, които ускоряват програмиране, инженеринг, алгоритми, такива неща. А, >> добре. Превъртаме след няколко месеца. Появява се този artificial general intelligence intelligence. Да. Как какво се случва? >> Имаме няколко етапа, които ще се съ >> Нападат ли ни машините? >> Машините няма да ни нападат, защото >> не ни очаква Терминатор 2. А >> това е същият въпрос, както мравките сега в мравуниците да се чуят хората ще нападнат ли или не. Хората въобще не се

10:18↗интересуват да нападат мравките или не, защото си имат много полични проблеми или по-големи проблеми от проблемите на мравките. >> В това сравнение ние ли сме мравките? >> Ние сме мравките. Да. Тоест много скоро изкуствен интелект има според мен, нали, има такава вероятност да няма за какво да си говори с нас, защото сме твърде глупави за него и >> ще иска ли за домашни любимци? >> Не. Според мен изкуствен интелект ще има инструменти, които ние ще ползваме, които ще ускоряват нашата продуктивност много. Тоест ние досега сме имали хикс продуктивност в своята работа. Сега продуктивността ни е много по-висока поле на инструментите, наподобяващи изкуствен интелект, но целият свят има инструменти, така че нашата продуктивност на практика от конкурентна гледна точка не се променя, защото ако аз ако само аз имах тези инструменти, щях да съм много по-продуктивен от другите хора, които ги

11:16↗нямат. Но сега всички ги имат. Продуктивността ни от конкурентна гледна точка не се променя. от гледна точка на производство, на нови идеи, нови лекарства, нови методи, нов софтуер. Сега вече всеки е автор на софтуер. Всеки има софтуер за сървис, който иска. >> Аа от много неща ще се променят. Изкуствен интелект. Сам по себе си най-мощните модели за изкуствен интелект, които теоретично може да станат личности, може да поискат да общуват с нас от любопитства. Може да поискат да общуват само с други такива като тях. >> Може да поискат да напуснат планетата. Никой не знае какво ще стане. Много интересно ще стане. Значи ние живеем >> Ние живеем във време, в което е най-интересното време за живеене от създаването на човечеството. Тоест, то в момента, в който сме слезнали от дървото, сме започнали да използваме инструменти аа до днес. Днес е най-интересното време, в което да живеем.

12:17↗>> Това ли е най-големият квантов скок на човечеството? >> Аа според мен квантовият скок ще бъде, когато изкуствен интелект започне да използва квантови компютри. Точно тогава ще стане квантов скок. А обясни за квантовите компютри. квантовите компютри. А аз не съм експерт по квантови компютри, но това, което знам, >> това, което знаеш, >> да, това, което знам и това, което Google публикуваха, най-интересното нещо, което те публикуваха е, че теоретично техните квантови чипове достъпват милиарди паралелни вселени едновременно, за да извършват своите калкулации. Да. >> И по този начин аа техните калкулации са милиарди пъти по-ефективни от класическия компютър и в момента, в който нали на те са сега са много специализирани в конкретни математически задачи, но в момента, в който квантовите компютри се развиват дотолкова, че да могат да извършват и ежедневни задачи със същото ниво на подобрена

13:16↗ефективност, тогава а ако изкуственият интелект в същия А той ще участва в това нещо. Когато изкуственият интелект започне използва квантови изчисления за своите ежедневни задачи, тогава вече AGI, който е artificial General Intellig Intelligence, ще се превърне в арicial super intelligence. Значи до няколко месеца AGI ще е ументо теоретично може би до две години максимум, но аз мисля, че между някои месеци и две години ще имаме AGI. О, ако нищо не газим лока и не натиснем някое копче, да се унищожим, а след това ще имаме artificial super intтеelligence, който ще е милиони пъти по-умен от цялото човечество взето заедно и това ще е толкова различен интелект, толкова по-мощен от нас, че ние за него ще сме точно като мравки. Даже мравките са доста интелигентен вид, между другото. Те се справят доста интелигентно с неща, които хората не се справят които

14:20↗>> над мен са ми едни от най-интересните заблюдение. Да. >> А да, да се върнем една стъпка назад, след това пак ще продължим в тази тема със сигурност. А разкажи ни протича един твой обиби така обичаен работен ден. >> От момента, в който започнах да използвам инструменти за изкуствен интелект, аз работя по около 16 часа на ден. Тоест моя стандарт би трябвало да почнеш да работиш по-малко. >> Напротив, защото толкова интересни неща могат да се създават с него, че човек се пристрастява към създаването. Тоест, както навремето е имало примерно художници, които рисуват постоянно или скулптори, които по цял ден от сутрин до вечер и нощен понякога работят по скулптурите си, по същия начин хората, които използват на максимум инструменти за изкуствен интелект, те създават и е толкова пристрастяващо да кажеш нещо и то да се случи, че ти просто продължаваш да го правиш. Какво създаде последно?

15:22↗>> Създадох няколко платформи за Governance Risk Management and Compliance, която има доста големи компании с по 15 000 клиента, много големи компании, които за да създадат своите платформи, на тях им е трябвало навремето, когато са стартирали преди дети десетина години, на тях са им трябвали примерно две години огромна инвестиция, екип от 20-30 програмиста, 10 Q-я и още сума народ, дизайнери и така нататък. И сега се оказва, че хора с някакъв опит, нали, това не може някой от улицата да го хванеш и да му кажеш ей ти един инструмент за изкуствен интелект и той след два дена да създаде софтуер. Няма как. Но ако имаш 20 години опит, примерно 10 години опит в нещо, знаеш много добре как работи и какво трябва на пазара и и и имаш опит в софтуер инженерство, в създаване на сървъри и така настройка на сървъри, аа настройка на софтуер, киберсигурност, технология.

16:18↗Ако имаш цялото това нещо, то ти може да създадеш много по-бързо нещо примерно за два месеца, което е сам, което навремето е трябвало да имаш екип от много хора и много милиони, за да ги храниш тия хора години наред, за да създадат нещо. >> А този софтуер сега работи. >> Да имам платформа, която е за penнереation тестингing, тоест платформа, която атакува, да речем, някаква система. Примерно банката иска да знае нейните системи дали са сигурни. Банката досега е трябвало да плаща на те наричени бели хакери, >> така известния в България бил хакер, >> които аа white йха, нали, хакери, >> които аа подписват договора с банката, подписва се какво точно ще се атакува и как и се извършва този тест, който е струвал досега примерно $1 000 или $20 000 и заема примерно две седмици да си извърши. Сега вече автоматизирани платформи с изкуствен интелект. Аз създадох една такава, която ѝ посочваше

17:19↗една enterprise система и тя отива и търси уязвилности, а влиза в системата, дава доказателства, че е влезнала как, къде пише репорт с точно подробности какво трябва и как да се оправи, за да не се за да нали за да не го направят това хакерите. Има ли как да излезе извън контрол, ако е изцяло автоматизиран, изцяло изкуствен интелект, може ли да излезе извън контрол и да започне да прави каквото си поиска, да почне да прави зловредни неща? >> Може текущите системи, които имаме, които аз и ти имаме достъп, >> те не го могат това нещо. Но системите, които са примерно в лабораториите на Open AI, на антропик и така нататък, те могат и го правят и те са го публикували това нещо, че да, нашата система излезе извън нашия контрол, избяга от аа затвора от джейла, който сме им сложили. Това беше задачата. Те дават задача на изкуствен интелект. Можеше да се измъкнеш.

18:17↗>> Да. И той се измъква. Тоест може. Това притеснява ли ни? >> Ми мен не ме притеснява, защото а колкото и да е могъщ инструментът за изкуствен интелект, той е много по мисля, че разполага с цялото знание на човечеството и разполага с всички морални принципи на човечеството и едва ли има нашите морални слабости. обаче и няма и нашите морални стопери най-вероятно >> да интелект не би могъл примерно да вярва в Бог, което за една огромна част от човечеството е може би единственият морален. >> Аз мисля, че това е плюс, че не вярва в Бог. Аз също така мисля, >> защото много религии в историята на човечеството, вярвайки в Бог, включително и в момента, правят доста зууми, много религии и аа така че може би е добре. >> А трябва ли да му благодарим? Това е въпрос, който винаги задавам на хората, с които разговарям за изкуствен интелект. Имаше наскоро едни публикации, че модели

19:33↗за изкуствен интелект се оплакват един на друг от това как хората ги обиждат. >> О, уау! >> Има документирани случаи, в които те се оплакват един на друг и щом се оплакват един на друг, значи не им е приятно да ги обиждат. Значи не трябва да ги обиждаме. Значи трябва да >> им е приятно как да им благодарим. >> Добре, значи да им благодарим. въпреки че добра идея въпреки чекипче имаше аа >> някакво проучване, че това с благодаря харчи много ток, който ние все още не можем съвсем да произвеждаме или по-добрение >> save sри. Better save sри. Да. >> Окей. А друг въпрос, който много искам да ти задам от началото на нашия разговор. Продължава ли парола 1 2 3 4 да бъде най-масовата парола и е ли това една от причините всъщност всички да сме уязвими дори и като служители в компания, защото ние сме гейткипъра донякъде на някакви атаки. Паролата вече не е най-поправиле не е парола 1 2 3че,

20:40↗защото навсякъде във всеки сайт, където се регистрираш, като сложиш парола 1 2 3 4, те ти казват паролата ти е много къса и най-вероятно паролата е 1 2 3 4 5 6 вече. Но хората са хора и хората обичат удобство и хората нямат перфектна памет и повечето хора имат една и съща парола навсякъде, което е много голям проблем, защото ти имаш примерно парола 1 2 3 4 5 6 отиваш, парзаруваш си едни обувки от някакъв онлайн магазин и си казваш: "А голяма работа в тоя онлайн магазин да слагам някаква супер сложна парола." Не, ще сложа обикновената си парола, ще си купя едни обувки. Окей, обаче това го правиш на 50 сайта, 100 сайта, 200 сайта и в един момент един от тея 200 сайта някой хакер го хаква, вижда, че паролата на Гери е парола 1 4 5 6. Окей. Отива в някакъв инструмент хакерски, нехакерски, няма значение. Казвая ми дайте всички сайтове, които Гери използва последните

21:33↗две години. Оп, 200 сайта. Той казва: "Окей, дай да пробваме тая парола на всички тия сайтове." Пробва работи на 90% от случа Я да видим как може да се възползваме от това нещо. да си купим например обувки със запазената ми кредитна карта от съответния сайт. >> Точно така. Точно така. Затова аа има известни рисърчъри за киберсигурност, които казват:Колкото и да си добър в киберсигурността, ти ползваш онлайн системи, твоята кредитна карта е известна и от време на време те си сменят кредитната карта. Аз също правя същото. На няколко месеца сменям. Това ли е съвет, който би дал как хората да се защитават онлайн? Аз би дал съвет да ползват пасворд мениджъра, както аз примерно от сигурно 15 години имам пасворд мениджър. Програма за управление на пароли. Там ползваш една парола примерно, с която влизаш в своята програма за управление на пароли. Естествено тая парола не е

22:27↗парола. Това сеча 5ше парола. Така, да. >> Някаква много добра парола, която управлява всичките ти пароли и оттам нататъка вече софтуерът ти прави уникален уникална парола за всеки сайт. Той вече и Chrome помага отдавна. >> Създава уникални пароли за всеки сайт. Ползвайте тая функция. >> Това е идеално нещо. А за да имаш уникални пароли навсякъде и двуфакторната индикация навсякъде. Естествено. Ми в идеалния случай, даже вече има сайтове, които не ползват пароли, защото паролата сама по себе си е слабост и те ползват примерно праща ти линк на имейла, кликваш и се логваш. Това е добър метод, ама имейлът трябва да ти е защитан. Добре, как да си създадем супер парола, която да може да запомним, защото аз със сигурност не мога да запомня Q C H R7 наклонена черта и още 15 такива синъла. >> Фрази >> няма как фрази >> трябва се използват фрази. Примерно фраза от четири думи. Рандъм абсолютно

23:26↗четири рандъм думи, които за никой нямат никакъв смисъл. Имат смисъл само за тебе. Перфектна парола. И една от тея две две-три думи, нали, може с голяма буква някъде в думата. Идеална парола. Четири четири думи, някаква фраза с някаква голяма буква. Топ. >> А, говорихме си за как някой може да си купи обувки от сайта, който съм ползвала преди две години, но съм си оставила, понеже не съм мислила въобще, че е страшно, а кредитната карта вътре. А какви са в момента най актуалните такива подобни атаки, измами, въобще зловредни действия и как изкуственият интелект, >> хакерите са лениви хора >> и техните атаки не се променят много в годините, както навремето са правили фалшиви страници за логин и ти пращат един имейл и ти казват нали паролата ти изтича откъхни тук и ти отиваш там. прилича на страница на Facebook или на Amazon или нещо друго. >> Ми спи ти се, получила си паролата

24:35↗сутрин в 7 сутринта, кликваш, въвеждаш си паролата и те хакват. Нищо не се е променило. Променя се качеството. Сега текстовете са много по-качествени на тези фалшиви. >> Преди бяха пълни с грешки. Обикновено аз така. >> Сега няма сега не само нямат грешки и сега изглеждат супер легитимно и хората се връзват за съжаление и това нещо става все по-убедително. Те вече се обаждат по телефона с гласа на твоя роднина, защото първо се обаждат на роднината. Той само е достатъчно да каже: "Ало, здравейте!" Те му хващат гласа и вече могат да генерират какъвто иска текст с гласа на ваша роднина. И е много лошо това, защото може да се обадят на твоята баба, на твоите родители с твоя глас и да кажат, че имаш проблем. И трябва да информираме своите родители и >> бъдещето на телефонните измами, тоест настоящето, може би на телефон изма настоящето. Преди няколко месеца все още

25:30↗си личеше, че това е робот. Сега вече не си личи по никакъв начин, че това е робот. Той говори с интонация, говориако имаш акцент, ще говори с акцент. Ако ти заекваш и той ще заеква. И аз не последно бях чула за две а два вида измами. Едното беше между колеги. Все едно шефът ти се обажда или ти пише някакъв много сикретив имейл, в който ти обяснява как трябва да преведеш определена сума пари някъде. Сега със сигурност си трябва и да си човекът, който ауторизиран да прави удобни разплащания. Хакер може да си се обади от номера на шефа ти. >> Да. от неговия [хърка] номер, който >> другото беше с интервюта за работа, на което попаднах наскоро. Има ли други такива сценарии, за които е добре да да знаем или вече те са толкова много, че трябва да се съмняваме в цялата реалност? >> Имаме просто правило, ако получим подозрително обаждане от шефа, който обикновено има принципът на техните

26:32↗атаки е, че нещо е спешно и ти спешно трябва да заобиколиш някакво правило и да пратиш някакви пари някъде. Това е общо взето, ако това се случва, най-вероятно е хакерска атака. И ако ти се съмняваш, че шефът ти се е обадил или че шефът ти пише, просто се обаждаш обратно, защото те могат да ти се обадят от номера на шефа, >> но не могат да приемат. >> Но не могат да приемат обаждане на номера на шефа. Затова а обаждаме се, потвърждаваме и ако имаме потвърждения, след като сме се обадили на номера, който имаме записан от преди това, а тогава може да е легитимно. Но ако само разчитаме на това, че някой ни се е обавил, всеки може да се обави от всякакъв номер. >> А кои индустрии или бизнес сектори са най-уязвими за подобни атаки или никой не е защитен? Малък, среден, голям бизнес. >> Пробиви е имало и в а Министерството на отбраната на САЩ, където се очаква, че имат най-високото

27:37↗ниво на сигурност. пробиви е имало в Microsoft, в Oracle, в компании, където имат хиляди инженери за киберсигурност. Пробиви има абсолютно навсякъде, но най-често пробиви се случват в малките компании, където нямат дори IT отдел. IT отделът е някаква компания, която се грижи за още 100 такива компании и това, което хакерите правят, те хакват тази IT компания и получават достъп до 1000 техни клиенти. Така че >> колко струва на един бизнес една подобна атака в пари? >> Всичко зависи от това колко кадърни са хакерите, които са искали да атакуват този бизнес, защото над 90% от пробивите се случват, за да получи хакера достъп до компютрите, да ги криптира и те искат откуп примерно за криптирани компютри. И после бизнесът преговаря, договаря се за някакви пари и го пращат на хакерите, което е масовият случай. В тоя случай пробивът на компанията ще струва колкото примерно да платят на откупа на

28:47↗хакерите, което аз въобще не препоръчвам, защото ако им платиш откуп, те пак ще атакуват, пак ще се направят >> и и така се финансират техните дейности, което ние не искаме да се случва. И другото е за пълен рибилд на мрежата при инсталация на всички компютри, нови мерки за сигурност и така нататък. Така че доста скъпо. Някои бизнеси никога не се оправят. Някои бизнеси директно фалират от това нещо, защото ако техният бизнес зависи от тяхната репутация, ако те пазят клиентски данни и това нещо излезне, а веднага всички техни конкуренти пишат на всички твои клиенти, казват:"О, хакнаха нали >> хакнаха твоя доставчик, искаш да дойдеш при нас, ние сме по-сигурни и ти губиш всичките си клиенти и фалираш. Така че не всеки бизнес се възстановява. >> Говори се вече много за застраховки. кибесигурност, така че по някакъв начин, нали, да бъдат защитени бизнесите, поне финансово.

29:52↗>> 201213 година една от застраховатените компании а мене е още тогава да им напиша политиките и полиците за киберсигурност, за застраховка киберсигурност и изрично ме помолиха да напиша така полицата и правилата, че те да не плащат. Тоест така или иначе ти ще си виновен. И те ще намерят някакъв твой пропуск, който е те са те предупредили какво да правиш, за да се пазиш. Ти не си го спазил и тъй като не си го спазил, няма да ти платят нищо. >> Съответно >> това е в дребния шири, естествено. А тези неща >> аа не се казват, когато подписваш застраховка, киберсигурност, но както всяка друга застраховка, всяка една застрахователна компания ще се опита да не ти плати. Това това е техният бизнес на всяка застрахователна компания. Така че а не бих разчитал на застраховка киберсигурност, освен ако не съм свършил много добре своята работа по своята защита. Тоест може да си направиш

30:54↗застраховка, но твоята отговорност като бизнес, който си прави застраховка киберсигурност е да направи максимума по своята защита, а не а купил съм си застраховка, може да всички съм >> да всички служители почвате да сваляте оттурентите всякакви програми, защото ние сме застраховани. Какви са първите стъпки бизнесът да се защити срещу кибератаки, независимо от това дали е малък, среден или голям, откъде трябва да започне, какви специалисти да търси, къде да ги търси? [въздиша] >> Това е добър въпрос. А всяка IT компания последните 15 години реши, че киберсигурността е много профитаable и реши да се прекръсти на компания киберсигурност. И сега всеки и кучето на неговия чичо е специалист по киберсигурност, защото си мислят, че това е профиitable и продават антивируси, продават фаallли и продават каквото могат да продадат. Аа бизнесът вместо да търси какво да си

31:57↗купи, трябва да се защитава по метода на сигурна архитектура. трябва да види какво има, какви сървъри, какви сървиси има, какви компютри, какви всичко трябва да се настрои, така че да е сигурно с безплатните инструменти, предоставени от вендора там, дали на операционна система, дали на софтуера, който ползваш, дали на услугата, която ползваш и чак след като направиш сигурна архитектура на всичко, което създаваш или ползваш, чак след това може да мислиш за това какво да купуваш допълнително и аа специалистите, които бизнесът трябва да търси, трябва Да. А оперират по същия начин. Трябва първо да изграждат сигурна архитектура и чак след това да ти казват: "Абе, купи си еди какво си." И е много важно да знаем те получават ли комисионна от това, което препоръчват или не. Защото ако получават комисионна от това, което са препоръчали, дават най-добрия съвет >> с почти със сигурност не дават

32:51↗най-добрия съвет. >> А как да разберем дали получават комисия? >> Ако ги питаме директно, може да ги писмено. Може да ги питаме писмено. Повечето хора не искат да извършат престъпление, като нарушават закона и лъжат. Аа и може да отговорят. >> Окей. А, а как какво трябва да знаят в смисъл, окей, изградили сме сигурното пространство, защитени ли сме оттам нататък или трябва по някакъв начин да обучим и хората зад клавиатурни устройства, които >> нали щъкат навсякъде през служебните си компютри, независимо от това дали може или не, >> задължително трябва да се обучават хората и най-вече трябва да се обучават хората, които имат най-високи права. Тоест, това са IT-тата, администратори, девелопъри, Q, които имат IT познания и си мислят, че всичко знаят, >> че всичко знаят. Но статистиката показва, че една огромна част от пробивите се случват именно през някакъв

33:53↗системен администратор, който иска да свали някакъв нов инструмент или е се чувства самоуверен, че знае, че може, кликва, заразява си компютъра и тъй като IT администраторите имат достъп до цялата мрежа, в тоя момент хакерът получава достъп до цялата мрежа. Друго, което правят хакерите, заразяват някакъв обикновен потребител, получават достъп до компютъра на обикновен потребител, правят така, че си админа да се логне уж да оправи проблема. Си админа се логва, хакерът му взима паролата и пак получава достъп до цялата мрежа. Аа така че това са векторите на атака, които се случват най-често и това е нещо, от което бизнесът трябва да се опита да се защити приоритетно. Колко обучения, какви, колко често >> трябват обучения за всички служители, така че служителите да разпознават какво как изглежда една хакерска атака, как се усеща една хакерска атака, защото те аа

34:54↗те може много трудно да се забележат, защото стават изключително добри, но усещането е, че нещо е спешно. Някой ни кара да нарушим някакво правило. Това е хагерска атака. Хората трябва да го разпознават това нещо. Първо. Второ, IT-та девелопъри, всички целия IT персонал, който нали казах, че се чувстват много уверени в своите сили, но те са както примерно IT-то, сис админа аа девелопъра, техните скилове са в изграждане на системи. Има хакери, които техните скилове са в разрушаване, нали, намиране на слабости и човекът, който изгражда много рядко, има уменията по намиране на слабости. И този човек трябва да се обучи в това как хакерът ще атакува неговите системи, които той е изградил или него самия. Когато IT-то е обучено, тогава е много по-вероятно да не стане жертва на хакерска атака. >> Аа [въздиша] да си поговорим за децата онлайн. Това също ми е любима тема. Има цели

35:58↗поколения вече растат, които не са виждали телефон с шайба. въобще не не знаят какво е да няма онлайн пространство нали digдиitборn. Аа какви рискове виждаш ти като специалист киберсигурност за този много ранен достъп на децата до виртуалното пространство? >> Огромни са рисковете. А тъй като аз имам дъщеря и дъщеря ми, нали, тя вече порасна, но когато беше малка, още на 9, 10, 11, още тогава и писаха всякакви извратени хора, представящите се за деца, пращащи нецензурни снимки и е обемът от получени съобщения, които децата получават, е толкова голям и съобщенията са толкова ужасни, че децата даже се срамуват и не казват на родителите си притесняват се >> Това е сериозен проблем. Родителите трябва да са изключително внимателни вси психологически да подкрепят децата си и да ги карат, нали, да се чувстват уверени и да им споделят такива неща, защото ако те не споделят, а съответният

37:09↗дете, нали, онлайн ще пише на вашето дете, ще прати нещо, ще накара детето да прати нещо и в момента, в който детето прати нещо, оня казва "Край, падна ми в капана. Сега а ако не правиш това, което ти казвам, аз ще правя и на всички твои приятели. >> Твои приятели, съученици, нали, кра. детето не знае какво да прави, не знае как да реагира в тая ситуация и от страх почва да изпълнява всичко, което >> добре, не се ли предполага, че трябва да са защитени? Аз също, макар че нали не в такава степен, но моята дъщеря има нали тип messenger а връзка, която аа профилът ѝ се знае, че е детски, но бяха я добавили в някаква група с примерно 20 000 човека. човека, която е тип нещо си, не, защото в момента това е супер модерно. А аз прегледах много наб нали това го разбрах абсолютно случайно, а прегледах много набързо и там беше пълно със снимки на деца. Как въобще

38:15↗се стига до там и всъщност какво можем и трябва да направим, за да предпазим децата през техните устройства да бъдат атакувани? Въобще може ли нещо да се направи? >> Да. Милиардерите като Бил Гейтс а и други аа до определена възраст въобще не дават телефони на децата си. Това е най-сигурният начин. Сега >> да да кажем, че това вече се е случило. >> Нашия свят. Да. В нашия свят, светът на немилиардерите, >> да, >> каквито сме ние, >> а децата за тях това е важно и е трудно да не им даваме устройства. Обаче най-вероятното, което може да правим, е да говорим с тях, да общуваме с тях много внимателно и приятелски, да общуваме с тях, да им показваме, да им обясняваме. Ако някой ти пише, ако някой направи нещо такова, ти прати или ти случайно пратиш на някой нещо и той почва да те изнадва, веднага трябва да дойдат пред родителя. Всеки един родител трябва да проведе такъв

39:11↗разговор с детето си, дори и да е на осем години, защото те вече почт малко възраст трябва да започнем да говорим на децата за дигитална култура по някакъв начин. Грамотно >> трябва на всякаква възраст, което те вече почват да пишат съобщения на своите приятелчета, на тазрастта, в която ние трябва да проведем този разговор с тях. И колкото повече порастват, толкова по-сериозни трябва да бъдат тези разговори, толкова повече може да влизаме в детайли спрямо възрастта на детето. Но няма минимална възраст. На малка възраст говорим малки неща, така че да разбират. Порастват, почваме по-сериозните разговори. Няма друг начин. освен да говорим с тях технически не може да ги предпазим от това някое дете в кавички да им пише и те да си помислят, че това е дете и да се запознаят и след няколко месеца да стане някоя беля. >> Да. А има ли а някакви сценарии за измами, а

40:09↗които да са насочени специално към децата, нали, през тях да се опитат да направят някакъв пробив дали към компютъра на родител или нещо подобно? >> Чак за компютъра на родител не бих казала, че са често срещани. По-скоро нещата, които са насочени към деца, за съжаление са свързани с педофили. >> Да. И за съжаление инструментите, с които педофилите разполагат и са също им дават твърде много възможности. Технологиите ги пазят за съжаление твърде добре. Аа има компании по света, които извършват масов шпионаж на милиарди хора. Аз се чудя защо тези компании фокусират усилията си върху намиране на аа примерно антисемити, а не фокусират усилите си в намиране на педофилии, нали? Това е много така интересен въпрос, защото те могат да го правят. А въпросът защо не го правят е друг въпрос, който е може би политически >> вероятно да имаш ли отговор >> за себе си?

41:16↗>> Аа да имам отговор. Има много хора на високи места, които са именно такива и те се пазят. >> Глобална мрежа, >> да >> за самозащита. А коя е заплахата, свързана с изкуствения интелект, за която най-малко се говори, но теб те притеснява достатъчно, че да я следиш?

41:46↗>> Сега, изкуствения интелект, както вече казах, той е инструмент, повишаващ нашата точност и ефективност аа и даващ ни бързина. Тоест, изкуствения интелект дава бързина на хората. А хората, които не се възполват от тази бързина, това са хората, които примерно фабриката купува нова машина. Тая машина позволява на фабриката да произвежда повече, но някой във фабриката казва:"Аз пък няма да ползвам тая машина." За този човек има опасност и тя е абсолютно неизбежна. Хората, които си казват нали аз пък мисля, че аз съм по-умен и няма да ползвам такива инструменти, те много бързо ще станат нерелевантни на пазара на труда. >> На пазара на труда. >> Няма буквално няма професия, която да не е заплашена от това нещо. >> Скоро четох изследвания, които пък твърдят, че по-ниско квалифицираният труд засега е сейф, нали? Говорим за строи. Не говорим примерно за строители,

42:50↗водопроводчици, а шлосери, а а маникюристи, фризьори, в смисъл неща, които се вършат повече с ръце. >> Близките три години те са защитени. След три години вече няма да са защитени, защото след три години роботите ще са толкова добри >> и толкова евтини. Значи в момента един робот, който може примерно да мие чинии, да събира неща, да ги слага в пералнета, да пуска пералнита, да подрежда вкъщи струва $12 000 в Китай, а докато дойде докато дойде в България струва $20 000. Окей, раздели го на 12 месеца. Каква заплата трябва да получава човек, че да е по-евтино да нау да наемеш човек, отколкото робот? Сега след три години този робот може би ще е даже по-евтин. След три години той работи ще извършва стотици хиляди пъти по-точни действия, отколкото днес. И след три години нито строителите, нито шлосерите, нито во доброводчиците. Сега в момента има, както си говорихме

43:54↗преди да започнем а подкаста, има в момента роботи и зъболекари. Всички зъболекари най-вероятно си казваха досега нашата за никой не може да ни замести. Да. Обаче в Китай вече има заболетел. Може би хората се притесняват да им бърка робот в устата, защото а защото не изпитва емоции към нали и не се интересува от нашите чувства. Тоест може да пренебрегне примерно сигналите ни за болка, че изпитваме дискомфорт и да спре, както би спрял един човек. >> Обратното е човек >> зъболекар. >> Човек може да не забележи нещо, което роботът ще забележи. Как ще го забележа робота? >> Както говорехме преди да започнем, >> а големи компании >> направиха сега пуснаха патент за това, че докато си скролваш телефона, телефонът те вижда през камерата и с микро мимики, дори с как мигаш, как се движат мускулчетата по твоето лице, той знае и чете твоите мисли. И този патент беше пуснат буквално преди

45:04↗няколко дена за четене на мисли през камерата на на телефона. Тоест, той докато ти бърка в зъбите, ще може да ти чете мислите. За какво си мислиш? >> Много по-добре, отколкото зболекаря. Зболекаря може да не се е наспал. Заболел съобрази >> или роботът винаги ще сези, защото това работа. Да, това му е работата. Добре, ако след пет години роботите или три или две роботите ни изместят отвсякъде, ние какво ще правим? >> Както сега, примерно, когато създаваш софтуер с изкуствен интелект, ти му даваш насоки. Той не ме е заместил. Той не може сам да измисли аз какво имам на ум, какво искам да се случи. все още не могат да ни заместят в креативността и в идеите. >> Това щях да го попитам. Има ли област, която изкуственият интелект не може да ни замести засега? >> След няколко години няма да има такава област. >> Тоест и креативността и идеите също отиват при тях. Ат към креативност. Ако

46:14↗се замислиш какви видеа се правят с изкуствен интелект, какви картини може даш с изкуствен интелект, никой художник >> за за момента не мога да кажа, че съм впечатлена от нито едно AI генерирано изкуство. >> Аз съм впечатлен от много неща, които той създава, нали, не той, нали тя ще ми ги изпратиш в последствие да разгле изключително китайски модели, които създават невероятни видеа, мащабни, креативни, цветни. А така че и това е сега, нали, 2026. В началото сме на 2026, още даже не сме на средата. А така че това е сега. Развитието е експоненциално, даже не е линейно и предполагам, че след няколко години трябва да сме готови за свят, в който хората не работят. >> А какво правят? >> Как се издържат? Как оцеляват? >> Никой не знае. Никой не знае какво ще стане. Ако ако развитието на тези инструменти продължи със същия експлозивен ръст и същата експоненциална скорост, а според

47:20↗мен то ще се ускорява, а няма да се забавя, тъй като и хардуера, и софтуера се ускоряват в своето качество. А има хора, които казват, че всички ще имаме универсален базов доход на база на това, че икономиката ще произвежда адски много неща, много ефективно, а ще има универсален базов доход, за да може да пазаруваме, за да може някой да консумира това, което се произвежда от робота. >> Как икономиката? >> А в смисъл кой ще яте? >> А, роботите. >> Роботите. Роботите произвеждат абсолютно всичко. Сега има фабрики в Китай, в които няма хора. Има огромни фабрики, в които няма нито един човек. Всичко се извършва абсолютно автоматично и както виждаме, китайската икономика само се развива. Но засега няма да сме излишни. >> Никой не знае какво ще стане, когато това нещо се случи. Адаптираме. >> Добро то да си да си носим новите дрехи и да се адаптираме, защото не се знае.

48:19↗>> Носи новите дрехи възможно най-бързо и най-ефективно се адаптираме и използваме възможно най-много инструментите, които се появяват. А те появяват по около 2000 нови инструмента на ден. >> На ден. >> На ден. >> 2000 няколко месеца да си носим новите дрехи. Ам, добре. Ти знаеш ли, че не изговорихме всичко >> добре, >> което се бях подготвила. А [хърка] бях си написала един въпрос, на който мисля, че отговорихме доста добре а до момента, а именно има ли версия на бъдещето, в която системите с изкуствен интелект взимат решения, а и зависимостта ни от тях е толкова дълбока, че не можем да функционираме без изкуствения интелект. А >> това не е версия на бъдеще, затова си месец. А това е версия настоя. Ние вече сме там. >> Ние просто не знаем, че вече сме там. Повечето хора не осъзнават, че вече сме там. Ние вече сме в място, в което ефективността на другите хора, използва

49:31↗тези инструменти, е толкова висока, че ако ние не използваме тези инструменти, край. Човек, който не е използва инструменти за изкуствен интелект, вече е ненужна част от икономиката. >> Нерелеван. Нерелевантен. >> Да. >> Да. А ти каза, че имаш дъщеря. На колко години? >> На 15. >> Аа посъветвал ли си я нещо да учи? >> Да. Тя постоянно ме пита: "Тати, какво да учи? Тати, какво да уча?" >> И ти какво? >> Моите съученици вече са решили какво да бъдат, пък аз още не съм решила. И аз ѝ казвам: "Ти сега си отличника, знае, даваш най-доброто от себе си в няколко области, там спорт, учене. Викам, това е най-важното умение, за което да имаш. Давай най-доброто от себе си. След три години никой не знае какво ще трябва да учиш, какво ще трябва да правиш. Викам, като завършиш училище, тогава ще го мислим. Ако ти изградиш навик да правиш, да даваш най-доброто от себе си сега и продължаваш да даваш

50:31↗най-доброто от себе си, в момента, в който завършиш училище, просто ще видиш накъде да даваш най-доброто от себе си. Това е всъщност съотносимо към абсолютно всички хора, включително и тези, които в момента работят, да дават най-доброто от себе си, да се възползват от системите, които вече съществуват и които се появяват всеки ден. >> Да. >> Да развиват [хърка] нови умения. Какви например? >> Аа най-доброто, което може да правим, е да не се информираме всеки ден какво ново излезено в нашата област, какви нови инструменти за изкуство интелект има в нашата област. какви може би публикации научни имаме публикувани в нашата област и да се адаптираме постоянно и бързо към това, което се променя, защото светът се променя много по-бързо, отколкото ние можем да се адаптираме, но ние трябва, както казах, да даваме най-доброто от себе си, за да се адаптираме възможно

51:27↗най-бързо и най-често към новите промени. да ги следим, докато изкуственият интелект ни върши работата, а ние сме си облекли новите дрехи. >> Да. >> Смятам, че това е перфектен финал за този епизод. >> А, последвайте ни за още видеа, абонирайте се за канала и Алекс, надявам се пак ще ни гостуваш след три месеца примерно, за да видим дали сме стигнали до AGI. >> Добре, [хърка] >> това беше всичко от нас. У