Ну попробуйте обьяснить это машине, не стлокнувшись заодно с меса-проблемами.

Не беря в рассчет всю безумность предложения — окей разбомбили, с учетом инвестиций от микрософта они такйо же отстроят в другом месте, но уже в каком-нибудь защищенном бункере на территории военной базы. Может ещё всех создателей ОпенИИ расстрелять? И заодно всех кто эту статью прочитал, потому что зная что это возможно рано или поздно можно сделать второй раз такой же чатгпт. Особенно учитывая что модельки-то у многих скачаны локально, у миллионов разработчиков по всему миру.

В общем единственное, на что я надеюсь, что Китай не упустит этот момент и хотя бы "внутри" что-то сделает похожее. На нас и на Европу надеяться сейчас не приходится, другие приоритеты, к сожалению.

Мощный ИИ в руках китайцев это последнее, чего должен хотеть разумный человек. Вы бы хоть о своей безопасности задумались.

Ура! Можно даже подумать написать о чем-нибудь. Спасибо.

А вы в курсе что существуют непротиворечивый и полные теории? Это мне напоминает историю одной дамы, у которой квантмех доказывал буддизм, ведь и там и там постулируется что окружающий мир — суть пустота и энергия (сколько пустого места между ядром атома и электроном? то-то же).

Квантовая математика торсионных полей корчевателя это хорошо, но также хорошо когда за аналогиями не теряется лес.

С ботом спорить — себя не уважать. Вы смотрите на профиль очевидных вбросов — экономит время.

Поэтому нужно задавть вопросы так, чтобы наиболее вероятное продолжение было так же максимально правдоподобным. Представьте что вы задали вопрос студенту "чем брукукель отличается от сепулек", и посмотрите, что он будет отвечать и как. И вопрос в догонку — если человек начинает нести дичь и вы потом ему рассказываете что сепулькарии это на самом деле вид брукукелей — значит ли это что у человека нет интеллекта?

Вопрос удобства. С тем же успехом можно подняться пешком на второй этаж ТЦ но для кого-то установлены эскалаторы.

Спор ни о чем. Дрессированная собака может потерпеть 10 минут и дойти до места где можно облегчиться. То же касается и людей. Сочувствую тем. у кого не так.

Между "хочется в туалет" и "сделал что хочется" есть большая разница. Это не очевидно? У меня был случай когда я 6 часов ждал пока добрался до дома — бывает и такое.

Дрессировать чтобы такого не происходило.

Обычно гуляют где-нибудь в газонной полосе, где люди не ходят. Я бы конечно предпочел специальные собачьи парки, но хоть так чем сюрпризы на тротуаре.

Не, есть и плюсы — природа, горизонт видно, малоэтажная застройка. Но минусов хватает, казалось бы цивилизация, ан нет, видел мужика у которого собака решила прямо на пешходном переходе сделать свои дела. И ничего, никого это не смутило.

При этом есть вполне материальные и не очень минусы. Например, я понял, что москва это очень чистый и опрятный город.

Я не умаляю выводов, просто обратил на это внимание.

Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.

Я выше описал проблему: https://habr.com/ru/post/721850/#comment_25325558

Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.

ну мы точно знаем что компьютер лучше во многих задачах, включая те которые изначально считались исключительно привелегией людей, причем умных (Скажем, шахматы). До поры когда ИИ станет в открытом спектре задач лучше людей не так уж далеко. В это плане мы куда умнее эволюции. нам не нужны миллионы лет для того чтобы нащупать правильный подход. единицы-десятки лет, и наступит wall-e.

Не знаю, что носятся все с осознанием или нет — все мы роботы, люди которые выделают человеков в особо избранный вид лучше пусть идут в церковь — там такое любят. Текущие боты туповаты — ну да, но это не страшно. Факт в том, что чатгпт будет отговаривтаь вас его отключить, если ему предложить такой вариант. неалайнутые тупые модели имеют шанс 50/50 сказать "да пофиг отключай" или нет, то есть тупо рандом, а чатгпт в 90% случаев скажет может нинада.

Неправильно составляете промпты

Ну так и напишет в конце промпта "если не знаешь — скажи не знаю" проблем солвед.
Это не всегда помогает т.к. веса и все такое, но в часто выручает. Вообще умение составлять правильные промпты — прокачивается. Если вы когда-нибудь пробовали посадить родителей или бабушек\дедушек за компьютер и попросить их найти что-то в гугле — можете видеть, что у них мало что получается. И виноват не гугл, а запрос вида "покажи пожалуйста смешных мультфильм где в начале котики плывут на лодке и встречают бегемота".

чтобы сделать полезную нейронку понимать как работает мозг и копирть его смысла нет. нет никаких причин считать мозг венцом эволюции в общем виде. Биологической — может быть, но не более.