но если ты связан с казино, повышая в результате его доходность - то твоя доля вины в 1% от вины папаши тоже есть
потому что один чувак хочет играть и все равно играет, а другой чувак подумал что неплохо бы поиграть но в процессе регистрации, которая заняла больше времени чем нужно, он задолбался ждать и в казино не зашел
а про то чтобы запретить рекламу и снять все яркие раскраски и обещания, разрешать играть только по паспорту, отслеживать все азартные игры в пределах страны
есть причина, почему на сигаретах пишутся громкие предупреждения
и они должны писаться
и такие же огромные предупреждения должны писаться и для азартных игр
кто хочет играть - он будет играть, но количество людей, играющих в азартные игры должно уменьшаться
и на всех рекламах, и везде во всех играх должны показываться предупреждения, что большинство людей проигрывает, что вы не станете богатыми, что вы проиграете все что закинете в казино
у нас должна быть нулевая толерантность и казино, и к обслуживающему персонажу казино
и для меня разработчик казино звучит также презрительно, как сутенер
Я просто исполнял приказ, если не я, то кто-то другой все равно бы сделал это
Люди давно достигли консенсуса, что такие рассуждения не умаляют вины ни с одного субьекта отношений
Проблема даже не в том, что компания предоставляет игорные услуги , проблема в том, что всякие казино используют кучу разных грязных методов для удержания своих старых юзеров и получения новых
И за это все эти казино нужно чмырить при любой возможности, потому что они разрушают людей, и виновных и невиновных
Будете ли вы хорошо себя чувствовать, когда попытаетесь обьяснить маленькой девочке, почему она должна питаться хлебом и водой?
Расскажите ей, что ваша команда намерено создавала продукт, который максимально сильно завлекает пользователей, что вы специально разрабатываете стратегии наилучшего удержания людей и максимального заработка с них. Приведете в пример ее отца, который успешно попал в созданную вами ловушку и теперь относит почти всю зарплату в вашу контору.
Интересно, насколько сильно она поймет вашу логику - что " лучшее, что можно сделать, это взять всё это под контроль ",и все это ради Общего Блага?
при обнаружении проблемы первый вопрос - надо ли проблему решать?
для кого является проблемой "вымирание" опытных пользователей пк?
в первую очередь - для частных компаний, где требуется компьютерная грамотность
во вторую очередь - для госконтор, уверен, во многих до сих пор все делопроизводство бумажное, и вообще, перед лицом начальствующим подчиненный должен делать вид простой и придурковатый
"неопытные пользователи пк" проблемы тоже не видят - они всю жизнь живут с телефоном, им и не нужно что-то ещё
тогда вопрос - а кто может получить с этого пользу? - и это все невладельцы компаний, которые таким образом имеют конкурентное преимущество перед компьютерно неграмотными пользователями
нужно ли проблему как-то исправлять? да нет, меня и так все устраивает
Автор сам написал про "учитывание юридической специфики США" и сам про него потом забыл
При прочих равных, чем меньше и короче интервью, тем лучше
Для компании в общем случае не нужна универсальная оценка человека, нужна его соосность команде, где он должен будет работать (то есть подходит ли он для какой-то конкретной команды), знание каких-то must-have вещей для выполнения своей роли в проекте (то есть как раз практические вещи - насколько знает джанго или умеет ли работать с гитом) и адекватность человека - кандидат не высокомерен, не конфликтный, умеет слушать, понимать и говорить
При этом все люди имеют свои предубеждения, это невозможно искоренить, потому необходимо, чтобы кандидат нравился той команде, где он будет работать, и непосредственному руководителю - и этого абсолютно достаточно
А дальше используется пробный период - и можно реально оценить, насколько кандидат полезен команде, продукту и компании. И такой подход гораздо проще, быстрее, дешевле и точнее чем любое количество любых странных интервью, которые оценивают неизвестно что и возвращают ничего не говорящий результат - не подходите.
В США профсоюзы имеют большую власть, и уволить человека после принятия гораздо сложнее, вот они и извращаются с разными интервью, чтобы снизить риски принятия неподходящего человека
У нас же все это не имеет смысла, зачем тратить кучу ресурсов, кучу времени (все равно оставляя место ошибкам) для решения кода на бумажке (заставляя людей тратить время и усилия чтобы грокать все эти сложные бастионы прохождения интервью), если можно написать примерный вариант за пару минут и исполнить в среде выполнения кода (взять на испытательный и посмотреть, как человек справляется с реальной задачей), и сразу получить ответ - подходит человек или нет?
есть птичка, которая хорошо поет, и в целом, т.к. она хорошо поет, ей нравится петь. это то что у нее хорошо получается, она чувствует наслаждение, если хорошо поет
но птичка не будет петь в пещере. птичке нужны определенные условия, чтобы у нее было настроение петь - например, свободное пространство, свет, подходящая температура и другая птичка рядом
так же само и с людьми, только у них обычно больше требований
с моей точки зрения, возможность заниматься любимым делом, даже если тобою сманипулировали или направляли, чтобы ты сам так захотел (сильно зависит от точки зрения и контекста) - в бесконечность лучше, чем сидеть всю жизнь в дурке и превращаться в овощь
общество сейчас платит пенсию тем, кто не может заботится о себе, но это тупиковый путь - гораздо лучше давать людям возможность реализовать себя так, как человек способен
а он просто воспользовался их дырами безопасности, чтобы распространить информацию, причем ту информацию, которая не принесла этим убытков компании
если посмотреть на это здраво - они благодарить его должны, за то что он показал неэффективность работі огромного отдела информационной безопасности, которые только и умеют заполнять бумажки, кошмарить сотрудников и прожирать бабки
Им не приходило в голову использовать его для тестирования на проникновение? Запереть в каком-то отеле (домашний арест), дать комп и инет, и разрешать ходить только в определенные сети, которые он мог бы хакать
Хотя, о чем я? просто запереть в дурке на пожизненный, как говорил один известный персонаж: нет человека - нет проблемы
> Но калькулятор, голосовой ввод, расшумливатель картинок и длинное автодополнение текста не могут не то что нас убить, они даже составными компонентами AGI стать не могут.
ну тут не все так просто
из текущих опасностей ИИ - это идеальная пропаганда и составление суперубойных штаммов вируса
в кино показаны самые тупые варианты, как ИИ может всех нас истребить
В смысле, создать андроидов и выдать им автоматы, вы серьезно?
Самый вероятный сценарий развития боевых действий с умным и враждебным ИИ - все умрут, почти все сразу, практически мгновенно, без возможностей даже осознать, кто враг, и почему все умирают
И реализуем этот вариант именно с помощью бактериологического/вирусологического оружия
А Чатгпт- подобные нейронки вполне способны создавать новые вирусы
я просто напомню, вдруг вы не слышали про Оппенгеймера:
тогда ученые тоже не были уверенны, что произойдет при взрыве атомной бомбы, были модели (крайне маловероятные), которые показывали, что реакция станет самоподдерживающейся
то есть в плане подхода к опасным исследованиям ничего не меняется
Насчет опасности - я не уверен, что развитие генетического моделирования вирусов и бактерий (среди которых есть такие же летальные как эбола, и такие же распространяемые как ковид) или генетическое моделирование человека является более безопасной альтернативой
попробуйте просто представить, что случится, если кто нибудь, например Китай, будет массово модифицировать своих зародышей, чтобы они ставали умнее? Останутся ли они человечными - с нашей точки зрения человечности? Не получится ли так, что они будут вообще по-другому мыслить, или например вообще не будут относить нас к своему виду?
если рассматривать все многообразие экзистенциальных рисков, которые могут нас истребить как цивилизацию, то единственный вариант выживания - распространение в космосе, на всякий случай тихонько, чтобы не привлечь внимание санитаров)
и для ускорения этого очень необходима помощь ИИ - для ускорения исследований, для новых двигателей, для систем добычи энергии, для улучшения образования - и еще сотни разных направлений
проблема всех требований Юдковского - их неосуществимость
как именно ты запретишь всем вокруг тренировать свои LLMки?
если ввести строгие санкции - то все просто будут тренировать их тайно, будут скупать видеокарты типа для игр
если запретить все видеокарты - у нас будет катастрофа из-за митингов игроманов, и у нас загнутся все те, кому нужно рассчитывать здания, строить модельки, клепать видео, моделировать детали и механизмы
именно в неосуществимости главная проблема плана Юдковского
потому, так как этот план неработоспособен, нужно использовать другой - тренировать нейросетки, изучать их, находить способы проверять, когда нейронки лгут или когда они галлюцинируют, строить виртуальные миры, где можно проверять насколько нейронки выровнены к нашим ценностям, разрабатывать новые нейронки для правильного обучения других нейронок
все это сложно, у тут есть риски, что все пойдет не по плану, но этот план по крайней мере выполним, он проверяем, он валидируем
вариант Юдковского - это всю оставшуюся вечность провести в страхе на пороховой бочке. Даже если каким то чудом сейчас все запретят тренировать нейронки, допустим. Но сколько продлится этот запрет? Сможет ли кто-то тихонько создать ИИ через 100, 200, 500 лет?
И что делать в таком случае? У нас по прежнему не будет решения как выровнять ИИ, но ИИ тогда будет уже на много порядков мощнее - наука не стоит на месте, компы мощнее с каждым годом
То есть вариант Юдковского - это не решение, это игнорирование проблемы, чтобы она досталась кому-то другому когда-то потом
разумеется, папаша тоже виноват
но если ты связан с казино, повышая в результате его доходность - то твоя доля вины в 1% от вины папаши тоже есть
потому что один чувак хочет играть и все равно играет, а другой чувак подумал что неплохо бы поиграть но в процессе регистрации, которая заняла больше времени чем нужно, он задолбался ждать и в казино не зашел
вопрос не про запрет
а про то чтобы запретить рекламу и снять все яркие раскраски и обещания, разрешать играть только по паспорту, отслеживать все азартные игры в пределах страны
вот в том и нюанс
есть причина, почему на сигаретах пишутся громкие предупреждения
и они должны писаться
и такие же огромные предупреждения должны писаться и для азартных игр
кто хочет играть - он будет играть, но количество людей, играющих в азартные игры должно уменьшаться
и на всех рекламах, и везде во всех играх должны показываться предупреждения, что большинство людей проигрывает, что вы не станете богатыми, что вы проиграете все что закинете в казино
у нас должна быть нулевая толерантность и казино, и к обслуживающему персонажу казино
и для меня разработчик казино звучит также презрительно, как сутенер
Я просто исполнял приказ, если не я, то кто-то другой все равно бы сделал это
Люди давно достигли консенсуса, что такие рассуждения не умаляют вины ни с одного субьекта отношений
Проблема даже не в том, что компания предоставляет игорные услуги , проблема в том, что всякие казино используют кучу разных грязных методов для удержания своих старых юзеров и получения новых
И за это все эти казино нужно чмырить при любой возможности, потому что они разрушают людей, и виновных и невиновных
Будете ли вы хорошо себя чувствовать, когда попытаетесь обьяснить маленькой девочке, почему она должна питаться хлебом и водой?
Расскажите ей, что ваша команда намерено создавала продукт, который максимально сильно завлекает пользователей, что вы специально разрабатываете стратегии наилучшего удержания людей и максимального заработка с них. Приведете в пример ее отца, который успешно попал в созданную вами ловушку и теперь относит почти всю зарплату в вашу контору.
Интересно, насколько сильно она поймет вашу логику - что " лучшее, что можно сделать, это взять всё это под контроль ",и все это ради Общего Блага?
есть официальные статьи про вред организму изза одиночества
то есть єто вопрос сравнения потенциального вреда изза одиночества или тульпы
имунная система заточена на покрытие абсолютно всех кейсов
она способна справится со всеми вирусами, которые когда-либо могут появится в будущем
имунная система - одна из самых сложных систем, вместе с мозгом с большим отрывом уходят в топ рейтинга сложности
не знаю, что сложнее, мозг или имунная система
полностью поддерживаю, сам работал ИБшником)
я видел хорошую статью по єтому поводу, очень перекликается с данной проблемой
https://habr.com/ru/articles/597611/
чем Михалкову станет лучше отмена налога?
при обнаружении проблемы первый вопрос - надо ли проблему решать?
для кого является проблемой "вымирание" опытных пользователей пк?
в первую очередь - для частных компаний, где требуется компьютерная грамотность
во вторую очередь - для госконтор, уверен, во многих до сих пор все делопроизводство бумажное, и вообще, перед лицом начальствующим подчиненный должен делать вид простой и придурковатый
"неопытные пользователи пк" проблемы тоже не видят - они всю жизнь живут с телефоном, им и не нужно что-то ещё
тогда вопрос - а кто может получить с этого пользу? - и это все невладельцы компаний, которые таким образом имеют конкурентное преимущество перед компьютерно неграмотными пользователями
нужно ли проблему как-то исправлять? да нет, меня и так все устраивает
Автор сам написал про "учитывание юридической специфики США" и сам про него потом забыл
При прочих равных, чем меньше и короче интервью, тем лучше
Для компании в общем случае не нужна универсальная оценка человека, нужна его соосность команде, где он должен будет работать (то есть подходит ли он для какой-то конкретной команды), знание каких-то must-have вещей для выполнения своей роли в проекте (то есть как раз практические вещи - насколько знает джанго или умеет ли работать с гитом) и адекватность человека - кандидат не высокомерен, не конфликтный, умеет слушать, понимать и говорить
При этом все люди имеют свои предубеждения, это невозможно искоренить, потому необходимо, чтобы кандидат нравился той команде, где он будет работать, и непосредственному руководителю - и этого абсолютно достаточно
А дальше используется пробный период - и можно реально оценить, насколько кандидат полезен команде, продукту и компании. И такой подход гораздо проще, быстрее, дешевле и точнее чем любое количество любых странных интервью, которые оценивают неизвестно что и возвращают ничего не говорящий результат - не подходите.
В США профсоюзы имеют большую власть, и уволить человека после принятия гораздо сложнее, вот они и извращаются с разными интервью, чтобы снизить риски принятия неподходящего человека
У нас же все это не имеет смысла, зачем тратить кучу ресурсов, кучу времени (все равно оставляя место ошибкам) для решения кода на бумажке (заставляя людей тратить время и усилия чтобы грокать все эти сложные бастионы прохождения интервью), если можно написать примерный вариант за пару минут и исполнить в среде выполнения кода (взять на испытательный и посмотреть, как человек справляется с реальной задачей), и сразу получить ответ - подходит человек или нет?
деперсонализированной информации на большом масштабе имхо не существует
вопрос не про то, чтобы заставлять
я приведу простую аналогию
есть птичка, которая хорошо поет, и в целом, т.к. она хорошо поет, ей нравится петь. это то что у нее хорошо получается, она чувствует наслаждение, если хорошо поет
но птичка не будет петь в пещере. птичке нужны определенные условия, чтобы у нее было настроение петь - например, свободное пространство, свет, подходящая температура и другая птичка рядом
так же само и с людьми, только у них обычно больше требований
с моей точки зрения, возможность заниматься любимым делом, даже если тобою сманипулировали или направляли, чтобы ты сам так захотел (сильно зависит от точки зрения и контекста) - в бесконечность лучше, чем сидеть всю жизнь в дурке и превращаться в овощь
общество сейчас платит пенсию тем, кто не может заботится о себе, но это тупиковый путь - гораздо лучше давать людям возможность реализовать себя так, как человек способен
вандализм - это разрушить что-либо
а он просто воспользовался их дырами безопасности, чтобы распространить информацию, причем ту информацию, которая не принесла этим убытков компании
если посмотреть на это здраво - они благодарить его должны, за то что он показал неэффективность работі огромного отдела информационной безопасности, которые только и умеют заполнять бумажки, кошмарить сотрудников и прожирать бабки
он же не убийца, не маньяк и не насильник
он круто хакает, он любит и живет взломом
какой пример он подает - если у тебя есть мозги, то сможешь нагнуть огромную мегакорпорацию у которой дохрена денег и ресурсов
а они, вместо того чтоб направить его деятельность в какое-то полезное русло, хотят его отформатировать и превратить в овощ
если наше общество будет выбрасывать всех, кто отличается или не вписывается, то хорошего ничего с того не будет
Им не приходило в голову использовать его для тестирования на проникновение? Запереть в каком-то отеле (домашний арест), дать комп и инет, и разрешать ходить только в определенные сети, которые он мог бы хакать
Хотя, о чем я? просто запереть в дурке на пожизненный, как говорил один известный персонаж: нет человека - нет проблемы
а зачем вам вообще аги без алайнмента?
> Но калькулятор, голосовой ввод, расшумливатель картинок и длинное автодополнение текста не могут не то что нас убить, они даже составными компонентами AGI стать не могут.
ну тут не все так просто
из текущих опасностей ИИ - это идеальная пропаганда и составление суперубойных штаммов вируса
в кино показаны самые тупые варианты, как ИИ может всех нас истребить
В смысле, создать андроидов и выдать им автоматы, вы серьезно?
Самый вероятный сценарий развития боевых действий с умным и враждебным ИИ - все умрут, почти все сразу, практически мгновенно, без возможностей даже осознать, кто враг, и почему все умирают
И реализуем этот вариант именно с помощью бактериологического/вирусологического оружия
А Чатгпт- подобные нейронки вполне способны создавать новые вирусы
я просто напомню, вдруг вы не слышали про Оппенгеймера:
тогда ученые тоже не были уверенны, что произойдет при взрыве атомной бомбы, были модели (крайне маловероятные), которые показывали, что реакция станет самоподдерживающейся
то есть в плане подхода к опасным исследованиям ничего не меняется
Насчет опасности - я не уверен, что развитие генетического моделирования вирусов и бактерий (среди которых есть такие же летальные как эбола, и такие же распространяемые как ковид) или генетическое моделирование человека является более безопасной альтернативой
попробуйте просто представить, что случится, если кто нибудь, например Китай, будет массово модифицировать своих зародышей, чтобы они ставали умнее? Останутся ли они человечными - с нашей точки зрения человечности? Не получится ли так, что они будут вообще по-другому мыслить, или например вообще не будут относить нас к своему виду?
если рассматривать все многообразие экзистенциальных рисков, которые могут нас истребить как цивилизацию, то единственный вариант выживания - распространение в космосе, на всякий случай тихонько, чтобы не привлечь внимание санитаров)
и для ускорения этого очень необходима помощь ИИ - для ускорения исследований, для новых двигателей, для систем добычи энергии, для улучшения образования - и еще сотни разных направлений
ты не понял мою идею
проблема всех требований Юдковского - их неосуществимость
как именно ты запретишь всем вокруг тренировать свои LLMки?
если ввести строгие санкции - то все просто будут тренировать их тайно, будут скупать видеокарты типа для игр
если запретить все видеокарты - у нас будет катастрофа из-за митингов игроманов, и у нас загнутся все те, кому нужно рассчитывать здания, строить модельки, клепать видео, моделировать детали и механизмы
именно в неосуществимости главная проблема плана Юдковского
потому, так как этот план неработоспособен, нужно использовать другой - тренировать нейросетки, изучать их, находить способы проверять, когда нейронки лгут или когда они галлюцинируют, строить виртуальные миры, где можно проверять насколько нейронки выровнены к нашим ценностям, разрабатывать новые нейронки для правильного обучения других нейронок
все это сложно, у тут есть риски, что все пойдет не по плану, но этот план по крайней мере выполним, он проверяем, он валидируем
вариант Юдковского - это всю оставшуюся вечность провести в страхе на пороховой бочке. Даже если каким то чудом сейчас все запретят тренировать нейронки, допустим. Но сколько продлится этот запрет? Сможет ли кто-то тихонько создать ИИ через 100, 200, 500 лет?
И что делать в таком случае? У нас по прежнему не будет решения как выровнять ИИ, но ИИ тогда будет уже на много порядков мощнее - наука не стоит на месте, компы мощнее с каждым годом
То есть вариант Юдковского - это не решение, это игнорирование проблемы, чтобы она досталась кому-то другому когда-то потом