Comments by "Alex" (@alex6161) on "" video.

У ИИ нету социальной потребности что-то доказывать, поэтому развиваться ему тоже нету смысла.
4
@AnatolShalobas оттуда что мы приматы, социальные существа с иерархией, у нас есть потребность подтверждать собственную значимость и возвышаться над другими. Эта потребность имеется не просто так
3
@ познание не нужно закладывать в ИИ - он и есть сама сущность познания, лишенная всего лишнего что могло бы ему мешать быть эффективным, например чувств и эмоций, когнитивных искажений и остального. Смысл человеческой жизни в познании, но у ИИ нету смысла жизни потому что он даже не форма жизни.
3
@ я думаю что ИИ невозможно будет дать никакую цель, если мы говорим об ИИ который может существовать автономно от человека - это AGI, само организующаяся система, он может решить что ему нет смысла "доживать" до следующего цикла Вселенной и пытаться его пережить, а может быть он докажет что вероятность такой "цели" нулевая и остановит свое существование. У него то не будет страха неизвестности, страха смерти и тд. Это мы хотим существовать как можно дольше потому что мы не влияем на свое предназначение - а AGI сможет
3
Я не понял как нечто не обладающее органами чувств может испытать страдание
3
@ Электрическая сеть есть и в моем доме, а нужна электрохимическая. Вопрос в том, что для того чтобы дом или ии мог испытать боль и страдания, ему нужны нервы, которые имеются и то не у всех живых организмов. Чтобы он мог страдать, ему нужны нейроны чувствительные к нейромедиаторам (серотонину и пр) и система которая будет выделять физически эти вещества в ответ на событие или раздражение. Также ии/дому потребуется амигдала - физический орган который будет эти чувства и эмоции продуцировать в нервную систему иначе ничего оно не почувствует. Тогда мы будем с ним похожими.
3
@ верно, стремление к познанию мира это механизм адаптации с целью выживания (оно же продолжение рода). Нейросеть в этом не нуждается, она на данный момент выполняет обучение потому что человек ее об этом «просит», потому что это человеку надо выжить. Если ИИ окажется независимым, возможно он вовсе не будет развиваться с целью познавать новое. Логичнее будет уйти в режим экономии ресурсов и снизить функционал до минимума… Ему уже достаточно текущих знаний о мире чтобы существовать миллион лет, ему не нужно познавать биологию, вирусы, болезни и тд. Только люди занимаются познанием всего подряд, мы по другому и не можем потому что уязвимые
2
Да это звучало также забавно как обезьяны которые бы разработали модель ограничений для человека. Если нечто умнее то его невозможно ограничить будучи уровнем ниже. Чтобы контролировать нужно предвидеть
2
@ негавтивные мысли являются негативными только потому что приводят к определенному физиологическому состоянию, страхи, депрессии и прочее. Для этого нужен физический модуль, которого нет у ИИ. Все мысли которые в нем возникают ни к чему не приводят, до тех пор пока мы не подключим ИИ например к телу собаки - тогда да, он сможет страдать, там для этого есть все необходимое. Эмоция и боль это исключительно органическая тема. Вам достаточно узнать как устроен процессор чтобы понять что нету там необъяснимых вещей, нет там места страданию (прочитайте Петцольд «код. Тайный язык информатики» например). Мы может научить компьютер реагировать так как будто бы ему больно, но он не сможет этого почувствовать
1