18 мнения по „Защо не знаем как работи изкуствения интелект?

  1. venci.bf4@abv.bg

    Понеже си направил ново видео,което отговаря на моите въпроси се чувствам задължен и аз да ти отговоря.
    Преди всичко искам да кажа,че и аз също се интересувам от темата и въпросите ми бяха зададени един вид от обикновения зрител на предаването в,което си взел участие.

    1.Достигам до извода,че в един етап на развитие AI може сам да даде обосновка за решенията си на разбираем за нас език.
    2.Т.е. тук машината откъм гледна точка хардуер,конструкция и алгоритми си е ОК.Само,че в даден момент стига точка в,която не взема правилното решение.Как тогава и кой ще я светне,че има проблем?
    3.Това,което казваш е ясно.Но как това генерирано нещо от машина въз основа на сканирана информация може въобще да се бори с човешкия интелект,разум,фантазия и т.н.Да вземем например генерираното пияно инструментал на deep mind.Ясно е,че може да създаде нещо неповторимо от човека,като възможности,но крайния резултат е трагичен.. Сам каза в предаването,че заетоста в сферата на изкуството няма да бъде засегната.От тук дойде и моят въпрос.
    4.Последно „плашещо“ == „апокалипсис“ 😉
    5.Напълно съм съгласен с теб.В момента наистина е така.Но,както казахме всичко ще се промени в бъдеще.
    6.Тук въпроса ми беше малко по-различен.Говорим за най-големите компании,които имат ресурса и данните за развитие на AI.Това са Google,MS,Apple и т.н. в скоби US !Тук въпроса с две думи беше:На Русия примерно това няма да им се нрави.Ще започнат разработката на нещо свое.Ама трябват данни и енергия.. Хоп конфликти. Едната част от компаниите ще управляват огромна част от масите.. пак конфликт.Разбираш вече на къде бия..
    Хората(личните им данни) са главната храна на цялото нещо.Промити мозъци с изкоренени личностни основи.Огромни корпорации владеещи и борещи се за храната от масите.Тук вече ако не сме в тоталната „The Matrix“ здраве му кажи.
    7.Тук въпроса по-скоро беше етичен от гледна точка развитието на науката и цивилизацията ни като цяло.Предполагам си гледал филма Lucy в,който сюжета е доста близък.Според теб готово ли е човечеството да отвори „кутията на Пандора“ и да понесе последствията?И въобще мислиш ли,че сме способни да се справим с толкова много нова и непозната информация за отрицалтено време?
    Според мен тук в този момент цивилизацията ни или ще се промени коренно към едно доста по-високо ниво или ще загине с гръм и трясък.

  2. Christian

    „1.Достигам до извода,че в един етап на развитие AI може сам да даде обосновка за решенията си на разбираем за нас език.“
    Не знам, аз съм скептичен спрямо това, защото по време на обучението си алгоритмите „ръфат“ сурова информация. А и ако не се лъжа това са два различни типа алгоритми за използването на човешки език и за разпознаването на лица / примерно /. + че за да ти каже защо е взето дадено решение си представи, че ще ти обясни стъпките по които се взима решението. Учените стъпките ги виждат /виждат поредицата от числа както каза Гатакка/, но той ще ти изплюе /може би/ малко по-подредена информация, но сама по себе си сложността ѝ ще е почти толкова висока колкото и на суровия вариант. Все пак ми е интересно как Гатакка ще коментира твоя коментар.

  3. gatakka Автор

    Ами аз реално съм дал отговор във видеото – все още няма алгоритъм който да успява да генерализира всичко. А и да има, нямаме хардуера който може да поеме такова пространство.

    Теоретично е възможно, един ден може би ще стане. Ако всичко продължава с тези темпове на развитие, тоест експонента, ще стане най-вероятно в рамките на нашия живот.

    И ако това стане означава, че имаме машина която е само осъзната. Това пък вече до какво ще доведе… дори и спекулациите са прекалено спекулативни.

  4. Think

    gatakka, да не би да се опитваш да обясниш, че AI взема решенията нещо подобно на принципа на one way function? При това положение определено не би било Теоретично невъзможно, но наистина би било Практически невъзможно да се върнат назад резултатите, които дава, за да се разбере как точно взема решенията. (Тези, които не разбират от криптиране, това е основата на модерната криптография. Ако имаш 2 множителя е адски лесно да ги умножиш и да получиш простото число, което търсиш, но ако нямаш множителите е АДСКИ трудно да разложиш на множители определени прости числа. Например за едно 1 милион битово просто число с днешния хардуер (говоря за хардуера на целя свят) ще се нужни милиарди години да бъде разложено на множителите му.)

    Защото по начина, по който го обясняваш излиза все едно, че хората нямат абсолютно никаква представа как дори теоретично да стигнат до отговора, който търсят – т.е. абсолютно невъзможно. Ако е въпрос единствено на изчислителна мощ думата „невъзможно“ придобива доста различен смисъл.

  5. gatakka Автор

    @Think не, не е еднопосочна функция, определено не е. Проблема е комплектността. Имаш една матрица (или тензор) с милиарди числа, които прекарани през определени функции (най-често активационните) дават друга матрица (или тензор), който пак може да минат през активационна функция, да се добави bias, да се добавят входните данни и пак получаваш още една матрица.
    Този процес може да се повтори много пъти, и някъде между тези числа в комбинация от активационни функции, bias и входни данни има някаква зависимост, която не може да се намери и да се преобразува във формат разбираем за човешкото възприятие.
    Не можеш от тези данни да кажеш „Ясно, за да разпознае котка търси еди какви си пиксели с еди какво си отношение“. Защото ако нарисуваш котка с акварел, алгоритъма ще каже че е коте, ама пикслите като разположение, пропорция и цветове ще са доста различни от пикселите при снимка на истинска котка.

    Комплектността е проблем, а при някой варианти и теория на хаоса 🙂

  6. gatakka Автор

    А да, и да добавя още нещо по предишния си коментар.
    За да е още по-весело не всички от тези числа в матриците имат някакво значение. И не знаеш кои са тези и колко са които не влияят на взимането на решението.
    А някой може да описват характеристика, която няма никакво реално значение за взимането на решението. И пак не знаеш кои са и колко са.

    Получава се нещо като опитите на SETI да търсят сигнали на извънземни сред целия бял шум на вселената, и микровълновата на комшията 🙂

  7. Петко Каменов

    Здравей Иване! Много се радвам, че се завърна. Прпдължавай в същия дух с влоговете. Ти ди един от малкото смослени български youtube канали. Гледал съм почти всички от твойте клипове. И сега към въпроса:
    Ти правил ли си някаква self-learning програма, и ако да би ли показал кода който си писал. Темата за self-learning и ai ми е доста интересна

  8. stealth

    В „Westworld“ машинките имаха функция „анализ“ – при която трябва да кажат на каква база са взели дадено решение. Хайде, това да се обработи тази информация в удобен за сдъвкване вид на прост отговор изречен на глас е много навътре в територията на фантастиката. Но ми се струва напълно логично да се логва на базата на кои точно сурови данни и по какъв алгоритъм се взема конкретно решение. Ясно, че това много ще спъне въпросните машинки, на които и сега не им е леко, ама поне на мен това ми се струва задължителна функция. Дори и само като обучителна цел – за нас хората.

  9. xxTTcc

    Привет Иване. 🙂
    Драго ми е много отново да дискутираме под видеа :). Дано пак се зарибиш. И аз със приятели сме си говорили много за тия неща. И книги са написани и фантастики. Реших да пиша за това дали, машините биха ни били врагове. Ако това стане, ще е може би заради някой човек, който не може да се изразява правилно. Дето трябва да изгледа видеото, как да си задава въпросите. Но ако допуснем че това би бил един паралелен интелект, аз лично смятам че ще работим заедно. Поне от гледна точка, че не се борим за един и същи ресурс. Нямаме конкуренция с тях. Те искат битове ние искаме свинско. Не знам може би е повърхностно мислене, но така мисля.

  10. licho

    Иване не съм съгласен с това, че не е ясно как се взимат решения та от И.И.
    Те работят на много елеметарни аксиоматични нива. Номера е в определенията и доколкото се допускат грешки от И.И те са основани на две неща – непълно определение и неспособност за логическо представяне на абстракцията. При хората абстракцията започва да се развива след усвояване на езика и някои смятат че тя е пряко негово следствие. Един пример – Ако направим схематична човешка фигура от кибритени клечки ще разпознае ли И.И. човешка фигура или ще разпознае кибритени клечки. Ако разпознае и двете какво ще отговори ако го попитаме какво е това. Затова и възникват грешки и затова ИИ. ще остане на равнището на 6 годишно дете и ще изпълнява задачи изискващи прости отговори.
    Какви са възможните отговори на въпроса какво е Иван? И както знаем от една книга отговора на въпроса какъв е смисълът на живота може и да е 44 но този отговор не ни върши работа.
    За да се развие И.И като по филмите трябва да има пълноценен език и то такъв с метаданни и то такива които да отиват в метафизиката. И както знаем от теорията за множествата такова нещо в нашата математика е невъзможно. Така че И.И. няма да са И.И а надявам се много добри роботи с интелекта на селски идиот:)

  11. z

    А вие защо си мислите, че човека е нещо повече от машина? И защо мислите, че човешкия интелект е нещо повече от просто най-доброто, с което разполагаме към *настоящия* момент?
    И какво изобщо е настоящия момент? Просто една точка в една безкрайно дълга линия.
    И разбира се най-дребните душици си придават най-голяма важност. Но не е луд този, който яде зелника, а онзи, който му го дава.

  12. Иван

    Поздрави за интересната тема. За разсъжденията също!

    Това за отговорността е важна тема, защото съм чувал, че по други държави такава се търси.
    А какво ще стане ако системата сбърка и направи беля? Сменя се системата, бута се нещо в кода или тя сама разбира, че вече не бива да прави така?

  13. Ангел

    Имам въпрос който ми възникна докато говореше за роботите които си говорят, ще ми бъде интересно ако получа отговор.

    Въпрос: До колко време според теб ще бъде ефективно премахната езиковата бариера между народите, чрез прецизно (неразличимо от native speaker) превеждане real time на текст/звук??

  14. gatakka Автор

    Доста скоро ще стане, превеждането в реално време на текст го има отдавна и за прости изречения е доста ефективно. При художествен превод и комплексни изречения и изрази се дъни лекичко.
    Разпознаването на глас също се развива със сериозни темпове, Siri, Google Asistant, Alexa, Cortana….
    Стават все по-добри и по-добри.
    Най-трудната част е сентизирането на гласа, но google направиха огромен пробив там преди няколко месеца, сега е въпрос на време да се оптимизира за да е практично като време.
    Смятам, че то 4 години ще имаме асистенти работещи в облака, които ще могат да превеждат текст и глас между основните говорими езици.
    Причината е, че google (че кой друг) отново направиха един голям пробив в превода, който им позволява да използват така наречените междинни езици, което ще позволи превода по смисъл и контекст. За сега го тестват основно с китайски, понеже той е МНОГО различен като структура от английския.
    Това е моята прогноза, около 4 години, но навлизането ще е постепенно, в смисъл няма да стане за една вечер и ще продължат да стават по-добри с времето.

  15. intel

    Ванка, само така 😉 (както се казва – харесва ми как мислиш).
    Но не ми харесва, че си подхванал такава тема и се опитваш да я обясниш с толкова прости похвати, че дори 10 годишно дете да я разбере. (както сам виждаш – не се получава достатъчно добре и има доста въпросителни)

    Дет се вика – все едно „гледам“ (слушам) как AI се опитва да даде дефиниция за себе си след 50-100 години, когато има достатъчно много напредък и „типове“ AI-та, и въпреки това, пак има проблем да се самоопредели и звучи като 6-10 годишно дете докато се опитва.

    И въпреки това – темата ме кефи и ме кефи как се разсъждава над нея (като изключим начина на излагане и формата на дадените разсъждения в коментарите).

    PS: Но като се замисля – може и да ми стане кеф да се опитвам да разбера, какъв точно е контекста на тези (на пръв поглед) просто изложени разсъждения от коментарите .
    Все едно чета как деца се опитват да дефинират фундаментални закони, без да имат ноу-хау-то наготово и преоткриват топлата вода по собствен начин.
    (Тук вече и аз влизам в противоречие със себе си, но това е моя принос за коментарите…)

    PS2: Не се опитвам да се заяждам или обиждам (с) никого като казвам, че начина на излагане на разсъжденията или формата им е твърде прост(а) за дадената материя. Просто формата/начина не е ‘правилният’ прост начин/форма.
    ( … rofl … с последното изречение направо се олях и аз, та се извинявам на читателите, който изобщо са ми чели поста – не е нарочно, само искам да ме разберете „правилно“…)

  16. УайзМанКАкс

    Уважаеми колеги,

    Желая Ви 2017 година да бъде много успешна за Вас и да реализирате поставените професионални цели.

    Нека Иван Ванков – Гатакка ни зарадва с много нови видео уроци и даже с цели поредици от логически навързани видеоклипове.

    Честита Нова 2017 Година.

  17. Бат Мичо Известния

    gatakka бих ти препоръчал да гледаш ако не си го гледал вече, Black Mirror, както и на всички участващи в дискусията. Конкретно втори епизод на пърия сезон 🙂

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *