Юрий Бабуров @buriy
Web, AI, Deep Learning, Python
Information
- Rating
- Does not participate
- Location
- Новосибирск, Новосибирская обл., Россия
- Date of birth
- Registered
- Activity
Specialization
Backend Developer, Chief Technology Officer (CTO)
Lead
Web, AI, Deep Learning, Python
ну если без свитча, то зачем морочиться ethernet-ом? Две карточки infiniband на озоне стоят ~12тыр, кабель еще 3. Будет 40g )
Статья хорошая, есть пара замечаний:
load_in_4bit=True по умолчанию использует fp4, да и двойная квантизация отрублена. nf4 как будто бы лучше, bnb_4bit_quant_type="nf4" в том же конфиге, там же и двойную квантизацию можно включить. В целом load_in_4bit едва ли предназначен для использования без дообучения, тут лучше смотреть в сторону gptq или ggml.
О квантизации позаботились не создатели Лламы, а разработчики bitsandbytes, accelerate и transformers, а конкретно Тим Деттмерс.
В большинстве случаев незачем писать собственный сервер, когда есть TGI или vLLM.
Интересный факт: в англоязычной литературе довольно чётко различается между mind и consciousness. Первое относится к общему месту содержаний сенсорной, эмоциональной и интеллектуальной восприимчивости; второе — к той части первого, которая отвечает за осведомлённость (awareness) о внутреннем и внешнем. Причём оба термина используются и в быту. В дискуссиях на русском часто пользуются только термином "сознание" — и когда речь о mind, и когда о consciousness. Имхо, этот факт не помогает достижению понимания.
Лично я полагаю, что хороший кандидат на соответствие mind в русском языке — разум. В этом случае сознание (как consciousness) это его подмножество. И тогда, имхо, видится технически возможным понять сознание через внимание, текущее восприятие, и оперативную (кратковременную) память. Где внимание это ключевой элемент, обладающий свойствами свободного перемещения по многообразиям разных категорий восприятия и выделения форм на сырых чувственных данных и комплексных отношениях между сенсорным, эмоциональным и интеллектуальным. Внимание это тот динамический элемент разума (mind), в котором достигается субъективная квалитативная ясность
Один характерный момент о внимании — можем ли мы сказать, что человек что-то понял при полном отсутствии внимания? Перефразируя: возможно ли понимание (в человеческом смысле) без внимания? Я считаю, что невозможно, т.к. любое успешное личное понимание пропорционально степени достижения интуитивной ясности. Нет ясности — нет понимания. Но ясность недостижима без приложения внимания. Даже если речь об элементарных ясностях, как цвета и звуки. Т.о., понимание недостижимо без внимания, а внимание это существенный элемент того, что мы называем сознанием.
Имхо, более вероятно не то, что сознание и понимание это два разных явления, а то, что это два разных вгляда на одно и то же явление. На разные аспекты этого явления.
Имхо, Вы исходите из сразу нескольких, вызывающих некоторое сомнение предположений:
детей, которых склоняют к Роскомнадзору террористически настроенные наркоторговцынаселения.А это вообще полнейший бред.
Подобных примеров можно привести ещё очень много.
Люди скрывают информацию о себе не потому что нечестны сами, а для того чтобы ею не воспользовались во вред нечестные окружающие.
И не надо говорить, что от государственных структур честному человеку скрывать точно нечего. Нечестные люди могут работать и в государственных структурах.
Или в них может работать хреновый, или просто невыспавшийся сисадмин, который забудет закрыть внешний доступ к базе данных…
Формальные юридические основания — индивидуально под данный проект сделанные законодательные акты.
Торги — это фикция в подобном проекте.
Дать деньги тому, кто просто соврет, что может построить? И профукать эти деньги?
Это же не простой/типовой проект, который может реализовать кто угодно. Существует всего 3 организации в РФ, способных на подобные проекты:
Тимченко отказался, убоявшись санкций.
Отдавать проект нероссийской компании нецелесообразно. Российская компания часть прибыли реинвестируют в РФ, тем более это гарантировано, что эта компания находится под санкциями и инвестировать за границу ей проблематично. Иностранная — точно всё реинвестирует у себя там.
Я как раз акцентирую на том, что Ротенберг как раз показал себя, что он делает реальные вещи, а не просто так за ничего-не-делание деньги получает.
С Ротенбергом тоже торговались. Вроде как 5% удалось скинуть, что довольно дохрена, если в миллиарды пересчитать. Исходя из того, что он остался единственным после отвала Тимченко — довольно неплохой торг.
Это проблема возникает когда результат труда сложно оценить. Когда работа проектная несколько проще, но тоже возникает проблема разной оценки и более слабая сторона вынуждена под нее подстроиться. Очень важно, именно подстроиться, а не принять оценку за объективную, что порождает хронический стресс. Условно говоря, если работодатель говорит, что эта работа занимает 6 часов, а ты что 12, то если у тебя слабая позиция, в офисе конечно тебя будут подгонять, но ты можешь сделать работу за 8-10 часов( пару раз задержаться на час ), и ты был в офисе, никто тебе ничего не скажет, а вот дома, ты получаешь деньги только за 6 часов, а что ты всю ночь работу доделывал никого не волнует. Обратная ситуация, когда у тебя позиция сильная, работодатель будет находится в постоянно стрессе и доверия между вами не будет, хотя он и будет платить за 12 часов, но это в итоге скажется и на твоем уровне стресса.
Имхо, вся статья довольно спорная, но вот этот момент — максимально:
Кидание пачек денег в программистов не делает проекты более качественными и безопасными.
Редизайн Gmail делал не нищий кодер за доллар в час из бочки, а толпа вполне успешных программистов, которые гордо ездят в автобусах, тусуются на конференциях и едят в ресторанах на территории офиса, где есть куча возможностей для развития, но они выпустили это...
Ответственные сервисы ВК и Яндекса пишут не нищеброды, которые за 1000 готовы на что угодно, а вполне гордые и не очень бедные программисты, но таких прыжков из уязвимости в уязвимость я давно не видел, хотя, казалось бы, "передовые" компании, все способствует развитию.
Знакомому стартаперу дали дофига денег, но он занимается не разработкой и анализом, а покупкой телефонов в разных магазинах, попутно разбивая новую машину и покупая еще более новую (без преувеличений). Хотя возможностей для учебы и отдыха мозга дофига.
Как мне кажется, одна из главных проблем — культивированная безответственность: сколько программистов готовы прийти к начальнику/заказчику и сказать "Знаете, я могу вот это сделать, но я не знаю/не уверен/недостаточно компетентен, чтобы сделать это правильно/безопасно/быстро"? Индустрия приучила кучу людей к тому, что опоздать к релизу или сорвать спринт хуже, чем случайно слить данные кучи пользователей. Безответственность не лечится котлетами из денег, требуется воспитание, мотивация, адекватный пряник и жесткий кнут.
Мидл — тот кто решает простые проблемы простым путем, сложные сложным.
Сеньер — тот кто решает сложные проблемы простым путем
2) В Яндексе/Mail похожая картина теперь. Приходят исключительно ради строчки в резюме, чтобы потом свалить оттуда в нормальное место. Как не придешь куда-то устраиваться, так целые «команды» из бывших сотрудников Яндекса и Майла.
3) Пока на яндекс будут клевать студенты и выпускники, то они смогут себя так вести. Но объективно, нормальному спецу нет смысла идти в Яндекс (платят ниже рынка, гнилая компания, эффективные менеджеры).
4) Нужно понимать, что если какая-то компания сильно хайпится на рынке (т.е. она тратит свои деньги на это), то она будет использовать это (понижая ставку, заряжаю джусом и прочее). И это не только в РФ и у Яндексе, это обычная практика на рынке.
Чтож, советчик из меня так себе, но попробую ответить.
Как показывает опыт, это лучший вариант научиться чему-то с нуля — пойти работать в какую-нибудь контору на простые задачи.
Это нормально. Более того, если вы приходите куда-то работать, и понимаете, что знаете, как решать все задачи — значит вам нечего там делать и нужно искать что-то посложнее.
Как быть? Читать много книг, статей про архитектуру, практики программирования, подходы и реализации. Сходу могу посоветовать прочесть (хотя бы первую треть) "Шаблоны корпоративных приложений" Фаулера, посмотреть видео Егора Бугаенко, ну и в целом проникнуться идеями SOLID, GRASP и прочего ООП (а у вас, скорее всего, ООП, если не 1С, конечно). Во-вторых найдите профильные каналы в телеграме по вашим технологиям и заваливайте их вопросами — там сейчас очень живое комьюнити, помогут ответом и советом. В-третьих, смотрите видео с профильных конференций, там очень много полезного бывает в архитектурном плане.
Ну раз вяло ищут опытного разработчика (мало предлагают), значит не так сильно и нужно, как говорят. Часто на деле говорят одно, а по факту совсем другое. Скорее всего, контору устраивает сваливать задачи на одного вчерашнего админа, который боится уйти в другое место, платить ему копейки, и еще понукать, мол "смотри, ты же мало и плохо делаешь, давай больше за те же деньги", то есть платят как за джуна, а спрашивают как с мидла/сеньора.
Если бы реально это было бы критическим местом, давно бы нашли человека, который им это за месяц сделает. Но ему нужно будет нормально заплатить, а зачем, когда в штате есть гребец, готовый за миску риса ишачить?
Постарайся довести ее до логической точки, прежде чем уходить, будет очень крутой пункт в резюме "сделал платежную систему компании Х, через которую проходит Y% всех платежей".
Ну так почитай, что на мидла нужно, прокачай технологии, прочитай про алгоритмы там и лучшие практики, и иди на мидла. Нет такого, как "миддл в Х" или "сеньор в Х". Есть человек, который умеет делать задачи плохо и под присмотром, или хорошо и сам. Это и есть сеньорити. Продавай себя как мидла, рынок сам назначит тебе цену. Ну и матчасть учи.
Попробуй приоритезировать рабочее время: 4 часа занимаешься текущими мелкими задачами, 4 часа думаешь над крупными задачами и изучаешь материалы на эту тему. Какие-то материалы (книги, видео, курсы) придется изучать в свободное время, но это цена профессионализма. При чем пробуй не просто разграничить время, а жестко распределить его на задачи, например по технике Помодоро — 8 циклов на текучку, 8 циклов на крупную задачу, вроде того. И на другое не отвлекайся во время этих циклов. Очень помогает, когда работаешь под давлением.
Как говорил выше, если бы сроки были такими принципиальными, то давно бы взяли профи и заплатили бы ему, чтобы успел все к срокам. А раз не берут, значит сроки эти существуют в основном для тебя.
В целом, в этом вся специфика работы в подобных конторах: документации нет, тестирования нет, рабочий процесс не организован, сроки всегда горят, а виноват во всем разработчик. Тут можно посоветовать только использовать это в свою пользу: получить максимальный опыт, который возможен, поработать на свое резюме (пример привел выше), попробовать организовать какие-то улучшения по процессу в рамках возможностей и искать место получше.
Выкинут тебя вряд ли, даже если будешь откровенно забивать, так как где они еще дешевых рабов найдут. Орать, давить, требовать и игнорировать любой фидбек так и будут, это просто механика коммуникаций в таких организациях — постарайся просто абстрагироваться от этого и максимально посвятить себя именно работе над задачами, забивая на все остальное по-максимуму. На все вопросы потом ответишь, что вот за Х часов ты сделал вот это и это, а сделать это быстрее при твоем навыке не было никакой возможности. А что-то левое не стал делать, так как более приорететные задачи были, так что либо снимайте те задачи, либо идите куда подальше со своей фигней.
Это отличное упражнение для восстановления спины. Но чтобы оно началось, необходимо правильно его выполнять. Когда блок в самом верху, необходимо сделать вдох и отпустить грудную клетку наверх, чтобы она максимально поднялась и вытянула позвоночник. Когда опускаешь руки вниз, необходимо расслаблять поясницу. Этого обычно никто не делает, так как ставит вес больше, чем ты можешь опустить, не напрягая поясницу. Она помогает тянуть. Таким образом, надо взять небольшой вес и все сделать аккуратно, ровно и правильно. Тогда заработают нужные мышцы. А обычно на этом тренажере качают руки, плечи и косые мышцы спины тем весом, который не позволяет включиться нужным отделам спины именно вдоль позвоночника.
Если у тебя искривление, надо чтобы сзади стоял человек и следил, чтобы ты ровно по горизонту держал руки и не подворачивал грудную клетку. И делать это надо каждый раз, когда занимаешься, пока мышцы не запомнят и не привыкнут к правильному положению.
И так во всех упражнениях. Они не сложные, можно научиться и выполнять самому. Но на первых порах все нюансы должен объяснить и показать специалист. Без этого никак. Это даже на видео не снять, так как трудно объяснить. Специалист проверяет твои мышцы и говорит, если ты какие-то напрягаешь напрасно или наоборот, работаешь не той, что надо.
Обычно хватает 10-15 занятий, чтобы потом человек мог заниматься самостоятельно. Главное уловить принцип. Когда пойдет восстановление, ты сам начинаешь понимать, как выполнять правильно. Получаешь облегчение, если проблема была явная.
Если это один раз осмыслить, становится ясно, что человек, который не ходит на собеседования, поступает неверно.
Лично я обычно собеседуюсь куда-либо два раза в год. При этом не раз было такое, что я работал в одной компании в течение 2+ лет (5-7 циклов собеседований). И, разумеется, лид знает о том, что я часто собеседуюсь без жесткой цели трудоустройства, ведь он брал меня на работу, и в ответ на вопрос «почему вы хотите уйти с текущего места работы?» услышал «да я не хочу, так, осматриваюсь, заинтересуете — приду».
Так почему вы считаете, что я ненадежный?
Не стоит забывать, что конкретный бизнес сам по себе может быть настолько неэффективным, что и предложить ему нечего. Корреляция между умениями программиста и его доходами весьма условная: я знаю чуть ли не гениев которые делают сложные штуки с машинным обучением за $200-300 в месяц (и их работодатель наверно считает это справедливой зарплатой) и знаю откровенно слабых программистов которые и код то пишут с трудом, но имеют солидные титулы в тех самых гуглах-майкрософтах и получают больше $200k в год.
Я уже пару лет как «разработал до дизайна» )))) приложение, которое может быть очень полезно для современного мира и скоростей. Главная фишка приложения — тэгирование записанного контекста.
Предпосылки — огромные объемы носителей для записи аудио и видео данных. и уже достаточные мощности систем. я занимаюсь научно-исследовательской деятельность, но не профи, а любитель )) и накоплено огромное количество аудиозаписей. Нужен был транскрибер, и из этого родилась идея приложения с тэгированием аудио и мгновенным поиском по записи.
Может быть вы могли за деньги помочь мне с моим проектом? Если вас это интересует — давайте обсудим ))
p/s/ Если шанс попасть не специалисту в данную область. Я студент учусь на технологии и предпринимательство, что как вы понимаете не совсем связанно с ИИ. Можно ли как то попасть в компанию занимающуюся развитием и изучением ИИ. У меня сейчас нет нужных навыков знаю, но все же данная сфера технологий очень волнует меня и хотелось бы принимать в ее развитии какое либо участие.