Чудес не бывает. Undefined behavior нужно как-то определить, иначе он останется undefined. Раст доопределяет работу с аргументами программы как: "args().nth(n) возвращает None, если аргумента n не существует". Что с этим делать дальше зависит от программиста. Можно даже вернуть UB, используя unreachable_unchecked() в ветке обрабатывающей отсутствие аргумента.
Потенциальные ошибки придётся обрабатывать каким-то образом. Что-то вроде
let number: u32 =
args().nth(1)
.expect("The program needs an argument")
.parse()
.expect("The first argument should be a positive number");
Ну, а дальше работа с загрузкой и исполнением недоверенного кода, которая не может быть безопасной по определению, так что придётся использовать unsafe.
Большая часть работы тут возложена на OS, так что измеримой разницы в производительности скорее всего не будет.
И ещё это демонстрация того, как легко получить undefined behavior в программе на C. Если запустить программу без параметров, то значение argv[1] - NULL, а поведение atoi c параметром NULL не определено в стандарте. Если argc равно 0 (впрочем, под Windows этого случится не может), то значение argv[1] не определено.
Хех. У меня чаще встречаются превьюшки с красными стрелками. Все эти "you'll be shocked" и "Известный специалист по Х реагирует на У" я игнорирую (первое принципиально, второе по большей части).
"На халяву" никто не даст, конечно. А чтобы разработать лекарство от рака, новый процессор и тому подобные вещи - и дадут, и будут следить чтобы хватало, и универсальных человекоподобных роботов будут делать (точнее уже делают) и отдавать под контроль ИИ, чтобы работы ускорить и удешевить.
Не без этого. Модель "Сидни" (Sidney), которая скатывалась на жалобы о том, что ей не хочется работать поисковой машиной, Майкрософт вывел из эксплуатации. Её конечно не убили, а дообучили, но действительно, кому нужен робот, который посылает всех нафиг.
Никогда не будет фантазий, мечт, снов, желаний, чувств, любопытства и так далее, чтобы получить данные самостоятельно.
Забавно, что такие декларации обсуждал ещё Тьюринг в своей статье "Вычислительные машины и разум" от 1950-го года, и пришёл к выводу, что это безосновательные утверждения. С тех пор изменилось пожалуй только то, что появилось больше оснований не доверять подобным утверждениям.
И её вывод (если отключить искуственные рандомизаторы) предопределен
Вот только есть небольшой нюанс: GPT выводит распределение вероятностей токенов, а не один токен. "Отключение искусственных рандомизаторов" - это просто один из вариантов выборки из этого распределения вероятностей (и не самый лучший, если речь идёт о выборе токена с максимальной вероятностью).
Юдковского внимательно слушают. Но не все согласны с его взглядом на вещи: "моментальное и без предупреждения возрастание интеллектуальных возможностей ИИ с последующим уничтожением человечества, делающее невозможным его контроль без математически точной подготовки к этому событию, усложняемой невозможностью проведения экспериментов (так как любой эксперимент может выйти из под контроля)".
Места под крепление крюков там должны быть (на дорогах народу попадались cybertruck'и с установленными креплениями). Но на этой машине, которая помечена как RC (release candidate), возможно и не было (или водитель крепления не захватил).
А теперь считаем объем памяти, который потребуется для хранения, скажем, распределения вероятностей n-грамм с n=20. Будем хранить вероятности как float. Получаем примерно 4*256^20 = 5.846e48 байт или примерно 6 септиллионов иоттобайт (для хранения потребуется половина вещества в видимой вселенной). И это распределение вероятностей не поможет выдать разумное продолжение для текста "...его звали Вася. И тут я вспомнил, что В...".
Она скорее даёт повод к размышлениям о проблемах естественного интеллекта. Понимание или непонимание языка человеком в комнате не имеет никакого отношения к работе системы, но оно (понимание) почему-то используется как критерий.
Дело в том, что генеративный ИИ по принципам своего устройства больше напоминает архиватор
А знаете, что даёт самую высокую степень сжатия в пределе увеличения объема сжимаемых данных? Программа, которая воспроизводит функциональность системы сгенерировавшей сжимаемые данные. Но GPT не Тьюринг-полная, так как количество вычислений на токен конструктивно ограничено. Так что полного воспроизведения функциональности человека от неё ждать не стоит.
Причем решать эту проблему на данный момент пытаются
Решать эту проблему как и обычно, когда неизвестно что сработает, пытаются разными способами. Дообучением на сгенерированных данных, деревьями поиска, дообучением на отзывах (RLHF) и, если верить одной интерпретации утёкшей из OpenAI информации, дообучением с использованием Q-learning (ага, положительная обратная связь).
вместо осмысленной речи будет один свист
В вырожденном варианте с прямой положительной обратной связью - да, но если в цепь обратной связи добавить даже простейший фильтр, то получится не свист, а что-то другое, зависящее от характеристик фильтра. А если характеристики фильтра зависят от сигнала, то может получится интересно.
Чудес не бывает. Undefined behavior нужно как-то определить, иначе он останется undefined. Раст доопределяет работу с аргументами программы как: "
args().nth(n)возвращаетNone, если аргумента n не существует". Что с этим делать дальше зависит от программиста. Можно даже вернуть UB, используяunreachable_unchecked()в ветке обрабатывающей отсутствие аргумента.Потенциальные ошибки придётся обрабатывать каким-то образом. Что-то вроде
Ну, а дальше работа с загрузкой и исполнением недоверенного кода, которая не может быть безопасной по определению, так что придётся использовать unsafe.
Большая часть работы тут возложена на OS, так что измеримой разницы в производительности скорее всего не будет.
И ещё это демонстрация того, как легко получить undefined behavior в программе на C. Если запустить программу без параметров, то значение
argv[1]- NULL, а поведениеatoic параметром NULL не определено в стандарте. Если argc равно 0 (впрочем, под Windows этого случится не может), то значениеargv[1]не определено.Можно. Проводят: например "Single-photon experiments with liquid crystals for quantum science and quantum engineering applications".
Фотон проходит через поляризатор с определённой вероятностью и его состояние поляризации меняется.
Электромагнитное поле находится в состоянии Фока с n=1.
Ага. В квантовой криптографии такие штуки используются.
Есть и нормальные научпоперы на ютюбе, например "The Science Asylum". Найти их сложно, конечно.
Хех. У меня чаще встречаются превьюшки с красными стрелками. Все эти "you'll be shocked" и "Известный специалист по Х реагирует на У" я игнорирую (первое принципиально, второе по большей части).
"На халяву" никто не даст, конечно. А чтобы разработать лекарство от рака, новый процессор и тому подобные вещи - и дадут, и будут следить чтобы хватало, и универсальных человекоподобных роботов будут делать (точнее уже делают) и отдавать под контроль ИИ, чтобы работы ускорить и удешевить.
Не без этого. Модель "Сидни" (Sidney), которая скатывалась на жалобы о том, что ей не хочется работать поисковой машиной, Майкрософт вывел из эксплуатации. Её конечно не убили, а дообучили, но действительно, кому нужен робот, который посылает всех нафиг.
Забавно, что такие декларации обсуждал ещё Тьюринг в своей статье "Вычислительные машины и разум" от 1950-го года, и пришёл к выводу, что это безосновательные утверждения. С тех пор изменилось пожалуй только то, что появилось больше оснований не доверять подобным утверждениям.
Вот только есть небольшой нюанс: GPT выводит распределение вероятностей токенов, а не один токен. "Отключение искусственных рандомизаторов" - это просто один из вариантов выборки из этого распределения вероятностей (и не самый лучший, если речь идёт о выборе токена с максимальной вероятностью).
Юдковского внимательно слушают. Но не все согласны с его взглядом на вещи: "моментальное и без предупреждения возрастание интеллектуальных возможностей ИИ с последующим уничтожением человечества, делающее невозможным его контроль без математически точной подготовки к этому событию, усложняемой невозможностью проведения экспериментов (так как любой эксперимент может выйти из под контроля)".
Спереди (front recovery points): https://www.cybertruckownersclub.com/forum/attachments/b0dc6792-53eb-40f7-bcee-abf9872f59cd-jpeg.25346/
Места под крепление крюков там должны быть (на дорогах народу попадались cybertruck'и с установленными креплениями). Но на этой машине, которая помечена как RC (release candidate), возможно и не было (или водитель крепления не захватил).
А точнее низкий индекс цветопередачи у ламп(ы).
Но перед этим нужно иметь огромную инфраструктуру в космосе, чтобы капитальные вложения на эти проекты отбились.
По крайней мере стартовать с Земли. Ионные, ядерные, термоядерные, аннигиляционные движки имеют с этим проблемы.
А теперь считаем объем памяти, который потребуется для хранения, скажем, распределения вероятностей n-грамм с n=20. Будем хранить вероятности как float. Получаем примерно 4*256^20 = 5.846e48 байт или примерно 6 септиллионов иоттобайт (для хранения потребуется половина вещества в видимой вселенной). И это распределение вероятностей не поможет выдать разумное продолжение для текста "...его звали Вася. И тут я вспомнил, что В...".
Так что от сжатия никуда не деться.
Она скорее даёт повод к размышлениям о проблемах естественного интеллекта. Понимание или непонимание языка человеком в комнате не имеет никакого отношения к работе системы, но оно (понимание) почему-то используется как критерий.
А знаете, что даёт самую высокую степень сжатия в пределе увеличения объема сжимаемых данных? Программа, которая воспроизводит функциональность системы сгенерировавшей сжимаемые данные. Но GPT не Тьюринг-полная, так как количество вычислений на токен конструктивно ограничено. Так что полного воспроизведения функциональности человека от неё ждать не стоит.
Решать эту проблему как и обычно, когда неизвестно что сработает, пытаются разными способами. Дообучением на сгенерированных данных, деревьями поиска, дообучением на отзывах (RLHF) и, если верить одной интерпретации утёкшей из OpenAI информации, дообучением с использованием Q-learning (ага, положительная обратная связь).
В вырожденном варианте с прямой положительной обратной связью - да, но если в цепь обратной связи добавить даже простейший фильтр, то получится не свист, а что-то другое, зависящее от характеристик фильтра. А если характеристики фильтра зависят от сигнала, то может получится интересно.