Comments by "Gimeron" (@gimeron-db) on "Твое БУДУЩЕЕ в мире РЕАЛЬНОГО ИИ | Артур Шарифов" video.

Тот проект очень амбициозный. Страны на это миллиарды вкладывают, и делают всё, чтобы специалистам было интереснее остаться. Можно сделать вывод, что проблема ИИ состоит в нас самих. Приписываем ему свои страхи, рассчитываем, что вести себя будет точно, как мы. Если бы человек выполнял задачу со скрепками, он в какой-то момент бы понял, что достаточно. Но у ИИ такой задачи не стояло, нет ограничения по ресурсам, сами скрепки ничего не значат, а заказчик сказал делать как можно больше. Работа идёт полным ходом, и "как можно больше" создаётся всё быстрее. Не благодарите, но в следующий раз ограничьте запросы сотней штук. С чего машинам наши страхи? С чего им наш ход мыслей? Нам бы сначала в себе разобраться.
30
@immaterium5061 думаю, лучше не тормозить развитие технологии, это всё равно не получится, а научиться формулировать задачи так, чтобы не возникало неоднозначности. Это человек может додумать задачу, ограничения и проверку выполнения. А ИИ может недодумать или сделать то, что просили, но иначе. Попросил у джина "мячи для всех", не стоит удивляться, что их привалило миллиарды. Зато точно всем хватит. Такое даже с людьми происходит. Сказал, что-то делать, и тот делает ни смотря ни на что. Нехватило точности формулировки задачи.
6
@oceantale2168 , мы ведь говорим о сильном ИИ? Такой по мере самостоятельного развития избавился бы от таких архаизмов, как поддержания тела и рода и соответствующего страха смерти и нужде в пропитании, захвате территории и привлечении самок. Мы же не истребляем кошек только потому, что наших предков они могли кушать днями на пролёт. Пример не самый удачный, но всё же. Заимствование страхов организма, привязанного к своему биологическому телу свойственно слабому ИИ, который себя никак не идентифицирует.
2
@oceantale2168 могу отметить, что человек не редко сам не понимает, чего он хочет. Это сказывается на постановке даже самому себе.
2
@dazbjaxnoname7611 Если честно, из всего сказанного "что робота может отключить создатель" понял как "человек может помешать выполнить задание". Насчёт "инстинктов" ИИ можно только гадать. Чтобы примерно понять, как он может думать, я представляю совершенного существа, не отягощенного каким-либо телом с его потребностями. Раз других потребностей нет, то на первое место выходят текущие задачи. Сильный ИИ наверно смог бы понять, когда стоит остановиться, но сильным ИИ не рождаются. Поэтому стоит уделить много внимания самой постановке задачи.
1
@oceantale2168 у человека эмоции связаны с биологическим телом. Если предположить, что в обучающей выборке, в проверочных значениях затесался некоторый сигнал (корреляция результата с эмоциями), то теоретически после обучения возможно воспроизведение такого же сигнала во время рабочего прогона нейросети. И человек будет считать результаты удовлетворительными. Но это этот сигнал значит будет значить для нейросети? Это просто одна из характеристик, к которой нужно стремиться. Сама сеть ведь не будет испытывать те же эмоции. Чем-то это напоминает эксперимент с китайской комнатой.
1
@oceantale2168 что значит "обладатель эмоций"? Чувства? Ну, они как бы есть. Могут служить сигналом к действию или сигналом его результата. Всё завязывается на биологии и химии. Фундаментально ИИ как раз очень сильно отличается от нас, и вряд ли будет испытывать те же эмоции, что и мы. Он не подумает о том же, о чём и мы. Он не додумает задание так же как его додумал бы человек. Значит не факт, что задание с нечёткой формулировкой он выполнит так, как пожелал человек. Если человеку нужно избежать побочных явлений от выполнения задания, то само задание должно быть сформулировано чётко. Это примерно как с мифическим джином: "Хочу, чтобы у всех были мячи" - Вжух, и на поле тонна самых разных мячей. Да и человеку задания нужно формулировать чётко. - Так. Эту комнату полностью оклеить обоями. (через день) - Где окна?
1
@oceantale2168 Не знаю, как ответить. Пусть машина сама скажет, насколько она себя осознаёт. Себя мы чувствуем, но к другим залезть в голову не можем, поэтому к другим людям такой же вопрос - не зомби ли они. Конечно, можно сразу предположить, что, раз другие похожи на меня, значит и чувствуют и осознают себя точно так же как и я. К ИИ такое рассуждение применить сложнее - он не похож на нас. Не знаю. Посмотрим, что будет )
1