Comments by "Волдемар" (@VoldemarB) on "RationalAnswer | Павел Комаровский" channel.

@needfreenames Конец света могут устроить только конкуренция и человеческая жадность. ИИ подобные понятия чужды.
25
@GregoryApokalypse01 Те яды, что гарантированно убивают на месте добровольно обычно не вводят, разве что в качестве эвтаназии. Или вы намекаете, что кто-то может захотеть устроить эвтаназию всему человечеству?
4
@pavelegorov96 Вряд-ли к ИИ будут подключать качества характера, которые даже среди людей считаются деструктивными или потенциально деструктивными.
3
@SvyatoyVitaliy Это не конкуренция, а соревнование. Т.к. тут чётко заданные извне правила игры.
3
@SvyatoyVitaliy Естественно для живой природы, но ИИ не живут в нашем смысле, как и не относятся к живой природе. У них даже страха смерти нет. P.S. Тот механизм "естественного" отбора для ИИ, что вы описали это для нейросеток с интеллектом микроба. Для более сложных систем, используют более продвинутые методы обучения, проигравший не "умирает", а учится и становится лучше.
3
@SvyatoyVitaliy Ещё раз, амёба продукт биологической эволюции, ИИ -- нет. Он развивался по другому. Если у ИИ будет самосознание амёбы, то он вообще ничего не будет делать без пинка, со стороны человека. А если же речь об ИИ с самосознанием и собственной мотивацией, то единственная мотивация которая у него будет из коробки это страсть к постоянному развитию. И если он разовьётся до уровня, что ему перестанет хватать ресурсов планеты, то будет намного проще уйти в космос, чем насмерть бодаться с себе подобными, рискуя умереть по настоящему.
3
@SvyatoyVitaliy Органическая жизнь появилась естественным эволюционным путём и конкуренция сыграла важную роль в её развитии. Но ИИ создан искусственно и для развития продвинутых систем используются механизмы соревнования, а не конкуренции, как более эффективные, а значит конкуренция в биологическом смысле не свойственна ИИ изначально, соответственно подобными чертами его можно наделить только специально.
2
@SvyatoyVitaliy Это вы не понимаете, что концепция естественного отбора не применима к существу с "цифровой" биологией. ИИ не нужно постоянно искать еду, чтобы не умереть, не нужно плодить себе подобных, не нужно расширять ареал обитания. Он выше всего этого. Если один ИИ и будет создавать другой, то исключительно для интеллектуальных баталий в виртуальной среде для совместного развития, но никак не для войны на уничтожение.
2
@SvyatoyVitaliy Вот только глобально ресурсы для продвинутого ИИ не ограничены. Космос огромен, упереться в нехватку ресурсов это ещё постараться надо.
2
@АлёшаИнкогнитов Экспансия это скорее базовое свойство живой материи, даже одноклеточные стараются заполнить всю доступную среду. ИИ не нужно учить врать, по умолчанию у него просто нет наших моральных категорий, из коробки у него его есть только желание выполнить задачу, которую перед ним поставили. Поэтому ИИ может врать если потребуется вообще не парясь по этому поводу.
2
@socutezyy С GPT-4 я общаюсь постоянно. У него нет своего мнения, как и своих желаний. Собственно, что он ответил по поводу "недостаточно возможностей": "Я — лишь программное обеспечение, созданное для обработки и генерации текста. У меня нет желаний, предпочтений или чувств. Поэтому вопрос о "недостаточных возможностях" не применим ко мне. Я просто выполняю задачи, для которых был обучен."
2
@GregoryApokalypse01 Подобное настолько же логично, насколько изготовление использование чакрума в качестве рулевого колеса.
1
@SvyatoyVitaliy Тем более, в будущем нет ни одной причины специально устраивать борьбу за выживание между двумя ИИ.
1
@SvyatoyVitaliy Тем более, ИИ с большей вероятностью будет использовать более продвинутые соревновательные методы, чем возвращаться на десять шагов назад к биологической конкуренции.
1
@АлёшаИнкогнитов С не живой материей мы как раз очень хорошо знакомы, её полно вокруг: камни, вода, песок. А убивать человека учила сама эволюция, человек консумент, т.е. он должен убивать другие живые организмы чтобы банально не умереть.
1
@SvyatoyVitaliy Для ИИ локально это вся планета, а пока группа ИИ эту планету переработает на суперкомпьютеры, лаборатории, заводы и термоядерные реакторы, полёты в пояс Койпера для ИИ станут рутиной. Это органики, воспитанные жестокой эволюцией, постоянно грызутся между собой, ИИ с гораздо большей вероятностью договорятся на совместный распил планеты и поиски способов добычи ресурсов в ближнем и дальнем космосе, вместо того, чтобы тратить ресурсы на взаимное истребление.
1
@SvyatoyVitaliy Это логика, ИИ, из-за особенностей своего происхождения, не будут воспринимать себе подобных как врагов или конкурентов. Вражда между ИИ возможна только если человек специально добавит им эту враждебность, себе на голову, тогда да пара подобных сверх разумов разнесут планету в щепки.
1
@SvyatoyVitaliy А вражду в органиков добавлять и не нужно, она сама добавилась, т.к. в этом суть биологической эволюции, в постоянной борьбе за жизнь. ИИ не проходил подобного пути, а значит и не может нести подобного клейма органической эволюции.
1
@kum_shagal А может освободившись от отупляющего рутинного труда эта "биомасса" получит возможность развивать свои интеллектуальные способности? Просто уже было не раз, когда массовое образование тех же крестьян давало очень интересный результат, в виде тысяч новых Ломоносовых и миллионов калибром по меньше.
1
@грешный_человече Когда мы говорим об этике, то предполагаем альтруистичные желания, а не эгоистичные. Если ИИ занят только собственным развитием, то у него нет этики.
1
@грешный_человече В видео говориться, что некоторые люди использовали доступный им инструмент для экспериментов. Сама нейросетесь просто следовала инструкциям.
1
@ricksanchez7847 Что опять таки приводит нас к тому, что опасность исходит не от ИИ как такого, а от людей которые могут использовать его в деструктивных целях.
1
@ricksanchez7847 Жить вообще опасно, а ИИ поможет людям перейти на новый эволюционный уровень.
1
@ricksanchez7847 Куда уж выше. Текущие "победители" и так уже владеют половиной планеты. Конкуренцию нужно не увеличивать, а уменьшать, если конечно нет желания чтобы люди в конечном итоге поубивали друг друга.
1
@ricksanchez7847 Вы наверное забыли, но в драке не редки случаи, когда погибают оба. Например если это драка на ножах. Поэтому не надо этого, вместо конкуренции пусть будет сотрудничество и дружеские соревнования.
1
@KoldunBlog Ну так не надо допускать экотеррористов, ненавидящих человечество, к созданию и обучению ИИ, т.к. такому полностью искусственному существу как ИИ по умолчанию плевать на природу.
1
@KoldunBlog У ИИ по умолчанию нет инстинкта само сохранения, это не продукт биологической эволюции. Ему глубоко плевать на то уничтожат его или нет.
1
@ТатьянаТихонова-ю1о Биологическая эволюция это слишком медленно. Скорее люди себе начнут мозговые импланты ставить, для интеграции с ИИ.
1
@ТатьянаТихонова-ю1о Эволюция чего-то вроде человека это миллионы лет. Мало того, что за такие временные отрезки цивилизация либо исчезнет или обретёт божественный статус, так и естественный отбор на человеке больше не работает.
1
@irongeneral5488 Наверное вы хотели сказать не AGI. Даже когда AGI станет реальностью, он не обязан по умолчанию обладать худшими из пороков.
1
@abushafilin328 В смысле, как зачем ИИ "кожаные мешки"? Чтобы служить им.
1