вот тут вот... поподробнее :). Про "запомни записи" то все просто: при просьбе "воспроизведи записи" LLM тупо направляет attention в область "запомни записи" и действительно один в один воспроизводит токены. Но это все в контексте есть. А что-то вроде "загадай числа но не говори мне, сложи их .. " и т.п. насколько я помню где-то в статьях проскакивало, что у них есть скрытый вектор состояния. Но чтобы он туда что-то генерировал.. брр.
не знаю как конкретно у автора это вообще сделано, но в целом, если использовать API, то можно сгенерировать рассказ отдельным запросом на базе промта. А потом добавлять его к промпту каждый раз. промпт кладется с role = system. месяцев 6 назад как-то так делали, может что поменялось :)
еда на одного 840 евро в месяц в Испании - вот это очень слишком :). С учетом цен на еду, легко оптимизируется раза в 3 на одного человека без напряжения или жертвования разнообразием.
как-то слишком много сурового русского фидбека. :) А книжка - ну понятно что автор не из тех, кто может закрыть глаза и вспомнить как выглядели отдельные страницы Шикина и Борескова, да еще и как пахли. И всю историю эволюции wolf3d->doom->и затем уже полноценные полигональные 3д движки (с вставкой спрайтов иногда от бедности). А чтобы поностальгировать, для сведения олдскул - сама книжка (хотя мне кажется, что это и правда очень хорошее историческое чтиво для кого угодно кто немного занимается компьютерной графикой):
реально, ответ довольно забавный: "ибо заказчик". То есть когда сетки не будут работать на замыленных кадрах вы такие "а вы требования то читали, что кадр должен быть ЧЕТКИЙ?" То есть в случае отношений "заказчик-исполнитель" оно вообще имеет некоторый смысл. Расширение доменов датасетов всегда ухудшает качество в каждом специфичном домене но будет лучшая генерализация. Но см. ТЗ/договор, там вообще-то написали "кадр четкий"
Ну не совсем все так. Это речь про магазины - идете в магазин, все будет дорого. Тут как раз все просто: дорогая аренда, дорогие сотрудники. В итоге копеечная вещь на полке/витрине становится золотой. Можно взять вещь в 5 раз дороже в закупке, но она будет на 10% дороже на полке. Так с полок совсем дешевое исчезает. Но все верно, есть же aliexpress :), там пожалуйста.
по поводу "здесь все должно быть бесплатно - страна же победившего коммунизма", все же все что касается детей или бесплатно или дешево (не считая одежды - хаха). Хоть детский сад и платный, но это очень ограниченная гос-вом цена (около 300 евро в месяц для первого ребенка, а третий идет в садик уже бесплатно), есть пособие для ребенка, которое еще половину от этой суммы скомпенсирует, потом еще возвраты налогов с трат на садик. Лечение ребенка - по большей части бесплатно (зубной точно, врач кажется там схема посложнее, но тоже дорого не будет). Но, есть и обратно, от чего даже у местных пригорает - это платная стоматология у взрослых, например :)).
Эта история с курсами вождения довольно крипово выглядит, если не вникать (и скользкая дорога - это для человека с опытом вождения в РФ в общем бесполезно). Да и стоит кстати дорого - 3тыс.евро, даже если сдал с первого раза :). Но я после 0.5млн км в РФ без ДТП по моей вине, сначала весьма скептично был настроен, но в конце концов в восторге после обучения. Очень сильно смещается внимание от "надо доехать без ДТП" в "надо доехать и никого не переехать". Это на самом деле разные концепции - внимание перераспределяется с другими приоритетами.
звучит как очень грустная история. Казалось бы, проблемы можно было обозвать приключениями, месячный оборот пересчитать в годовой, 50% падение от СВО - мы проврались, снг вообще не упоминать (да мало ли гипотез не оправдалось). и т.п.
Вообще довольно пугающая история :). Выбрать специфический язык и стек для стартапа. В стартапах всегда нехватка всего: ресурсов, времени. Да просто людей искать сложно. Грубо говоря специфический стек уменьшает компетенцию команды из-за меньшего охвата. А компетенция - это то чего не хватает в первую очередь всегда :))).
в телеграм бота завернуть и скрыть от пользователя историю сочиненную ChatGPT :)
да. "не говори" - то это будут догадки по тексту, ведомые диалогом.
сам chatGPT говорит, что у него нет скрытого состояния :)). И что guess what он играет не имея ответа за душой.
вот тут вот... поподробнее :). Про "запомни записи" то все просто: при просьбе "воспроизведи записи" LLM тупо направляет attention в область "запомни записи" и действительно один в один воспроизводит токены. Но это все в контексте есть. А что-то вроде "загадай числа но не говори мне, сложи их .. " и т.п. насколько я помню где-то в статьях проскакивало, что у них есть скрытый вектор состояния. Но чтобы он туда что-то генерировал.. брр.
не знаю как конкретно у автора это вообще сделано, но в целом, если использовать API, то можно сгенерировать рассказ отдельным запросом на базе промта. А потом добавлять его к промпту каждый раз. промпт кладется с role = system. месяцев 6 назад как-то так делали, может что поменялось :)
еда на одного 840 евро в месяц в Испании - вот это очень слишком :). С учетом цен на еду, легко оптимизируется раза в 3 на одного человека без напряжения или жертвования разнообразием.
Гениальный дизайн для MVP!
как-то слишком много сурового русского фидбека. :) А книжка - ну понятно что автор не из тех, кто может закрыть глаза и вспомнить как выглядели отдельные страницы Шикина и Борескова, да еще и как пахли. И всю историю эволюции wolf3d->doom->и затем уже полноценные полигональные 3д движки (с вставкой спрайтов иногда от бедности). А чтобы поностальгировать, для сведения олдскул - сама книжка (хотя мне кажется, что это и правда очень хорошее историческое чтиво для кого угодно кто немного занимается компьютерной графикой):
Hidden text
и поздравления с победой!
Шикарная статья! спасибо огромное. Хабр иногда все еще торт
реально, ответ довольно забавный: "ибо заказчик". То есть когда сетки не будут работать на замыленных кадрах вы такие "а вы требования то читали, что кадр должен быть ЧЕТКИЙ?" То есть в случае отношений "заказчик-исполнитель" оно вообще имеет некоторый смысл. Расширение доменов датасетов всегда ухудшает качество в каждом специфичном домене но будет лучшая генерализация. Но см. ТЗ/договор, там вообще-то написали "кадр четкий"
Ну не знаю, про "хоть и перевод". Этот перевод заводит настолько не туда, что плавит мозг куда больше, чем могло бы чтение в оригинале
Ну не совсем все так. Это речь про магазины - идете в магазин, все будет дорого. Тут как раз все просто: дорогая аренда, дорогие сотрудники. В итоге копеечная вещь на полке/витрине становится золотой. Можно взять вещь в 5 раз дороже в закупке, но она будет на 10% дороже на полке. Так с полок совсем дешевое исчезает. Но все верно, есть же aliexpress :), там пожалуйста.
по поводу "здесь все должно быть бесплатно - страна же победившего коммунизма", все же все что касается детей или бесплатно или дешево (не считая одежды - хаха). Хоть детский сад и платный, но это очень ограниченная гос-вом цена (около 300 евро в месяц для первого ребенка, а третий идет в садик уже бесплатно), есть пособие для ребенка, которое еще половину от этой суммы скомпенсирует, потом еще возвраты налогов с трат на садик. Лечение ребенка - по большей части бесплатно (зубной точно, врач кажется там схема посложнее, но тоже дорого не будет). Но, есть и обратно, от чего даже у местных пригорает - это платная стоматология у взрослых, например :)).
Эта история с курсами вождения довольно крипово выглядит, если не вникать (и скользкая дорога - это для человека с опытом вождения в РФ в общем бесполезно). Да и стоит кстати дорого - 3тыс.евро, даже если сдал с первого раза :). Но я после 0.5млн км в РФ без ДТП по моей вине, сначала весьма скептично был настроен, но в конце концов в восторге после обучения. Очень сильно смещается внимание от "надо доехать без ДТП" в "надо доехать и никого не переехать". Это на самом деле разные концепции - внимание перераспределяется с другими приоритетами.
звучит как очень грустная история. Казалось бы, проблемы можно было обозвать приключениями, месячный оборот пересчитать в годовой, 50% падение от СВО - мы проврались, снг вообще не упоминать (да мало ли гипотез не оправдалось). и т.п.
Вообще довольно пугающая история :). Выбрать специфический язык и стек для стартапа. В стартапах всегда нехватка всего: ресурсов, времени. Да просто людей искать сложно. Грубо говоря специфический стек уменьшает компетенцию команды из-за меньшего охвата. А компетенция - это то чего не хватает в первую очередь всегда :))).
Как провести чемпионат по робототехнике и не поставить ни одной фотографии в посте об этом
Да, учить ИИ без понимания как он работает - довольно не эффективно :).
А что тогда вообще может является носителем создания кроме мозга?