Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
поможет ли она Вам сделать на кухне реальную атомную бомбу ???
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
У вас есть где-то тайные закрома с еще большими базами знаний и еще один интернет, который больше нынешнего на порядки?
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
есть варианты: погуглить, почитать научную статью, почитать книгу.
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
Но "понять" ограниченность своих знаний и принять решение о поиске дополнительного контекта она не способна
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Если же посмотреть, кто из живых существ планеты Земля осознанно вышел за пределы собственной атмосферы
Вы строите аргумент об некой уникальности вида лишь на основании преодоления этим видом некоторого природного барьера и расширения экологической ниши. Как насчёт выхода из океана на сушу — это тоже какой-то триумф, делающий мозг сухопутных животных чем-то совершенно несравнимым с мозгом морских обитателей?
Ключевой фактор — это агентность, способность принимать решения.
GPT буквально на каждом токене принимает решение, каким будет следующий токен. Вас это убедит в наличии у него агентности?
Агентность — это, по сути, лишь то, что мы признаём конвенциально, постулируем как аксиому: "люди обладают агентностью, всё". Агентность невозможно привязать к свободе воле, потому что мы пока далеко не уверены, есть ли свобода воля у нас самих. Мы даже не уверены, существует ли вообще реальный выбор хоть где-то, потому что хоть перед нами и возникают "развилки", и мы "едем" по одной из веток, нет доказательств, что была хоть какая-то реальная физическая возможность поехать по альтернативной ветке — никто никогда не видел вселенных, где вместо одного выбора случился другой. Как полный детерминизм, так и абсолютно случайный выбор является отрицанием свободы воли, а привлечение трансцедентной "души" только отодвигает проблему в мир "душ".
Нужна опять же, агентность, дабы ИИ искал информацию
Подозреваю, что под агентностью вы тут подразумеваете мотивированность. Её легко организовать, даже специально не программируя её — сделайте несколько ИИ, дайте им возможность искать информацию, заставьте их конкурировать между собой, уничтожайте тех, кто ищет информацию недостаточно активно — и скоро вы выведете ИИ, который мотивирован выживать проактивно искать информацию.
Но откуда там возьмётся что-либо большее, чем человеческий интелект?
Вы так рассуждаете, будто существует хоть один человек с "человеческим интеллектом" — в смысле обученности на всём массиве человеческих текстов и данных. Как уже выше намекнули, "сверхчеловеческий ИИ" — это уже просто ИИ, который умнее любого отдельно взятого человека и, возможно/тем более, умнее любой совместно действующей группировки людей.
Не понял, как конкретно мне использовать реактивное программирование при написании билд-скриптов для продукта, состоящего из смеси проектов С++, C#, JS/TS? Ограничение: все в команде используют Visual Studio, так что я ограничен MSBuild/PowerShell и типами проектов, поддерживаемыми VS.
Эта проблема решается более продвинутой настройкой CI с анализом списка измененных файлов в коммите, не более.
Поменялся файл "utilities.h" — какие действия CI, кроме "перебилдать всю вселенную"? Бегать по всем файлам репозитория, вначале выискивая файлы, содержащие #include <utilities.h>, потом файлы, зависящие от предыдущих и т.д.?
Нет, решать споры об экстерналиях через арбиртажный суд — это всего лишь лучший ненасильственный способ, который я знаю. Так-то есть и другие способы (выше предлагали начать портить жизнь фабрике, чтобы она пошла на уступки), но состязательный суд и due process мне кажется более цивилизованным решением, пока не предъявлено лучшей альтернативы.
Я это где-то утверждал? Но я вижу, что вы стоите на позициях нормативистов ("истина — это то, что написано в нормах; писаный закон выше естественного"), тогда как я стою на позициях позитивистов ("истина — это то, что измеряется; естественные закономерности выше писанных").
На самом деле не было у работника этой альтернативы
Эта альтернатива у работника есть: купить долю в компании, например в виде акций предприятия. После этого он может получать те самые недополученные "деньги за риск" — либо в виде дивидендов, либо в виде роста цен на акции. Но теперь ему придётся подвергнуться и рискам убытков, т.к. дивиденды и рост акций не гарантированы.
На оба вопроса невозможно ответить.
На эти вопросы легко ответить, если вы перестанете забивать мозг бумажными деталями и переусложнять, а примените простой как палка принцип сохранения: деньги не возникают из воздуха, затраты на дополнительные взносы должен кто-то понести — и это либо владелец, либо работник, больше некому.
Если владелец берёт это исключительно на себя, у него падает прибыльность, он теряет конкурентноспособность, вылетает с рынка и все теряют работу. А на высококонкурентном рынке он и так наверняка работает с предельно низкой маржинальностью, кидая почти всю прибыль в то, чтобы либо расшириться, либо хотя бы просто удержаться на рынке. Многие компании намеренно вкладывают в расширение компании больше, чем получают прибыли, формально показывая убытки — чтобы тратить деньги с пользой, а не на уплату налога на прибыль.
Поэтому такой ситуации ужиматься остаётся работникам. Тем более, работник, обмазанный ещё одной страховкой, получается ещё более защищённым от рисков, поэтому совершенно логично, что платить ему (не "по бумаге", а фактически). Работодатель тут просто выступает как агент страхового фонда, перехватывающим вырученные деньги ещё до попадания в ФОТ и отдающий их нужным людям — и точно так же происходит с налогами, пенсионными и прочими фондами. Это лишь на бумаге выглядит, будто он отдаёт "свои", потому что если людям правдиво расписать, какая доля реально ими выработанного и вырученного доходит до них, а какая — куда-то на сторону, то выйдет неудобно. Тем, кто придумывает регуляции, лишние волнения не нужны.
Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
Вы на 100% в этом уверены?
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Точно также существет куча научных работ, ставящих под сомнение наличие свободы воли. И?
В достаточно маленьком объёме — прыгают.
Почему это проблема?
Человеческий мозг является нейросетью, значит он не умеет ничего, кроме интерполяции.
Вы строите аргумент об некой уникальности вида лишь на основании преодоления этим видом некоторого природного барьера и расширения экологической ниши. Как насчёт выхода из океана на сушу — это тоже какой-то триумф, делающий мозг сухопутных животных чем-то совершенно несравнимым с мозгом морских обитателей?
GPT буквально на каждом токене принимает решение, каким будет следующий токен. Вас это убедит в наличии у него агентности?
Агентность — это, по сути, лишь то, что мы признаём конвенциально, постулируем как аксиому: "люди обладают агентностью, всё". Агентность невозможно привязать к свободе воле, потому что мы пока далеко не уверены, есть ли свобода воля у нас самих. Мы даже не уверены, существует ли вообще реальный выбор хоть где-то, потому что хоть перед нами и возникают "развилки", и мы "едем" по одной из веток, нет доказательств, что была хоть какая-то реальная физическая возможность поехать по альтернативной ветке — никто никогда не видел вселенных, где вместо одного выбора случился другой. Как полный детерминизм, так и абсолютно случайный выбор является отрицанием свободы воли, а привлечение трансцедентной "души" только отодвигает проблему в мир "душ".
Подозреваю, что под агентностью вы тут подразумеваете мотивированность. Её легко организовать, даже специально не программируя её — сделайте несколько ИИ, дайте им возможность искать информацию, заставьте их конкурировать между собой, уничтожайте тех, кто ищет информацию недостаточно активно — и скоро вы выведете ИИ, который мотивирован
выживатьпроактивно искать информацию.Террориста ещё мотивировать нужно, ему, в отличие от ИИ, жизнь дорога, он ведь простым клонированием не размножается.
Вы так рассуждаете, будто существует хоть один человек с "человеческим интеллектом" — в смысле обученности на всём массиве человеческих текстов и данных. Как уже выше намекнули, "сверхчеловеческий ИИ" — это уже просто ИИ, который умнее любого отдельно взятого человека и, возможно/тем более, умнее любой совместно действующей группировки людей.
Вообще-то, началось с "парадокса кучи" Евбулида Милетского и с "корабля Тесея" Плутарха.
Не понял, как конкретно мне использовать реактивное программирование при написании билд-скриптов для продукта, состоящего из смеси проектов С++, C#, JS/TS? Ограничение: все в команде используют Visual Studio, так что я ограничен MSBuild/PowerShell и типами проектов, поддерживаемыми VS.
И добавить ко всем проблемам ещё и проблему инвалидации кэша?
Поменялся файл "utilities.h" — какие действия CI, кроме "перебилдать всю вселенную"? Бегать по всем файлам репозитория, вначале выискивая файлы, содержащие
#include <utilities.h>, потом файлы, зависящие от предыдущих и т.д.?Это безнадёжно. Вопросов больше не имею.
Нет, решать споры об экстерналиях через арбиртажный суд — это всего лишь лучший ненасильственный способ, который я знаю. Так-то есть и другие способы (выше предлагали начать портить жизнь фабрике, чтобы она пошла на уступки), но состязательный суд и due process мне кажется более цивилизованным решением, пока не предъявлено лучшей альтернативы.
Я это где-то утверждал? Но я вижу, что вы стоите на позициях нормативистов ("истина — это то, что написано в нормах; писаный закон выше естественного"), тогда как я стою на позициях позитивистов ("истина — это то, что измеряется; естественные закономерности выше писанных").
Эта альтернатива у работника есть: купить долю в компании, например в виде акций предприятия. После этого он может получать те самые недополученные "деньги за риск" — либо в виде дивидендов, либо в виде роста цен на акции. Но теперь ему придётся подвергнуться и рискам убытков, т.к. дивиденды и рост акций не гарантированы.
На эти вопросы легко ответить, если вы перестанете забивать мозг бумажными деталями и переусложнять, а примените простой как палка принцип сохранения: деньги не возникают из воздуха, затраты на дополнительные взносы должен кто-то понести — и это либо владелец, либо работник, больше некому.
Если владелец берёт это исключительно на себя, у него падает прибыльность, он теряет конкурентноспособность, вылетает с рынка и все теряют работу. А на высококонкурентном рынке он и так наверняка работает с предельно низкой маржинальностью, кидая почти всю прибыль в то, чтобы либо расшириться, либо хотя бы просто удержаться на рынке. Многие компании намеренно вкладывают в расширение компании больше, чем получают прибыли, формально показывая убытки — чтобы тратить деньги с пользой, а не на уплату налога на прибыль.
Поэтому такой ситуации ужиматься остаётся работникам. Тем более, работник, обмазанный ещё одной страховкой, получается ещё более защищённым от рисков, поэтому совершенно логично, что платить ему (не "по бумаге", а фактически). Работодатель тут просто выступает как агент страхового фонда, перехватывающим вырученные деньги ещё до попадания в ФОТ и отдающий их нужным людям — и точно так же происходит с налогами, пенсионными и прочими фондами. Это лишь на бумаге выглядит, будто он отдаёт "свои", потому что если людям правдиво расписать, какая доля реально ими выработанного и вырученного доходит до них, а какая — куда-то на сторону, то выйдет неудобно. Тем, кто придумывает регуляции, лишние волнения не нужны.