Пока далеко не ушли, примите заявку в комитет. Вместо подозрительно звучащего БЯМа использовать устоявшийся и благозвучный ЯМБ (Языковая Модель Большая).
Термин "трехмерный тензор" не очень удачен, поскольку провоцирует путаницу. Все же количество измерений тензора - это "арность" (валентность). Соответственно тензор из 3-х измерений - тернарный. А вот каждое измерение тензора имеет собственную "мерность" (размер). Поэтому унарный тензор (вектор) может быть трехмерным. Бинарный тензор (матрица или массив) имеет две размерности и т.д.
Сорри, я не на ваше замечание отвечал, а тихо беседую в этой ветке сам с собой о свойствах дробной степени разностного оператора). Просто запостил, чтоб потом легче вспомнить было, если понадобится. Добавлю, что коэффициенты дробного оператора (коэффициенты ряда Тейлора от полинома (1 - t)^(1/p) ) можно явно выразить не только для квадратного корня, но и для произвольной степени вида 1/p. Для этого понадобится обобщение чисел Каталана для произвольного порядка p (называются Patalan numbers). Тогда a(k, p) = Pat(k, p) / p^(2k+1)
Наверное, можно и для произвольных рациональных степеней вида q/p обобщить, но для хабра и так уже перебор подробностей).
Добрался до компа и посмотрел, как выглядят дробные степени от разностного оператора [1, -1]. Никаких "синусоидальных биений" не увидел, - все гладко. При изменении степени оператора от 0 до1 производная линейной функции плавно меняется от линейной до меандра, как и должно быть. Из интересного - квадратный корень из разностного оператора выражается рядом, коэффициенты которого имеют явное выражение через числа Каталана: [1, -Catalan(k)/2^(2k+1)]. Сумма самих коэффициентов нулевая. А сумма квадратов равна, похоже, 4/pi. Наверное, известный факт, но быстро не нашел, где это отмечено.
Спасибо, кэп). Дискретная производная, выраженная через свертку с многочленом, наглядно демонстрирует (имхо, конечно) проблемную область дробных степеней производных. Целые степени от оператора (1 - t) - это конечный полином (и оператор). А нецелые - бесконечный. Соответственно, нужно некое правило приведения (проекции) бесконечности в конечность. И тут, мне кажется, возможен некий произвол (но могу и ошибаться). При разных правилах проекции будем получать разные определения дробных производных.
Переход от дискретной свертки к непрерывной вряд ли что-то принципиально изменит.
Если задать функцию как дискретную последовательность значений, то её производную можно определить как свертку данной последовательности с последовательностью [-1, 1]. Последнюю можно именовать оператором производной 1-го порядка. Ему соответствует (производящий) полином (t - 1). Который в свою очередь можно возводить в любую степень, в том числе и комплексную. Соответственно степеням этого полинома и будет соответствовать оператор производной заданной степени.
При этом нецелым степеням будут соответствовать бесконечные полиномы (ряд Тейлора). Свойство периодичности значений функции позволяет свернуть мономы полинома "по модулю периода" - циклическая свертка. (Неуклюже сформулировал, но надеюсь суть передал.)
Я бы ещё добавил, что свойство антикоммутативности внешнего произведения справедливо только для векторов (элементов 1-го порядка). А внешнее произведение бивекторов вполне себе коммутативно.
Будет возможность - сам гляну. Просто известно, что детерминанты лапласиана графа - это статистика деревьев, а детерминанты смежности - статистика циклов. В статистике деревьев числа Стирлинга точно всплывают, но 2-го рода. Отсюда и предположение.
Мне ещё кажется, что числа Стирлинга 1-го рода могут быть связаны с детерминантами матрицы смежности графов. Поскольку последние тоже связаны с циклами на графе. Но могу и ошибаться.
У сингулярного разложения есть наглядный геометрический смысл.
Интересно, кому-нибудь помог "наглядный геометрический смысл SVD" понять его суть? В данной статье он точно к делу не относится, и только затуманивает картину. Вот если бы про геометрические преобразования была статья, - тогда другое дело.
Вообще непонятно, зачем применять к матрице смежности графа именно SVD. Дело в том, что под SVD обычно понимают разложение матриц, которые образованы элементами разных пространств. Например, "люди и фотографии", "слова и предложения" и т.п. Матрица же смежности образована элементами одного пространства - вершинами графа. Для ее разложения достаточно "обычного спектра" из собственных векторов и чисел.
Суть SVD в том, что в результате разложения каждому элементу исходных пространств можно сопоставить кортеж (набор чисел) - координаты элемента в новом "пространстве признаков" (то, что автор называет векторным пространством). И теперь в этом общем пространстве можно сравнивать исходные элементы (которые могли быть вообще из разных пространств изначально), - оценивать расстояния между ними и т.д. При этом есть возможность управлять точностью (рангом) разложения - сколько координат нам достаточно.
И это само по себе действительно прикольно. У человека есть набор чисел, у фотографии есть набор чисел. По этим двум наборам можно сказать - есть данный чел на фото или нет.
Путаница возникает из-за смешения двух разных понятий - индексов и их границ. В случае адресации к массиву индексами являются целые числа - 0, 1, 2,... Но их границы - это другой тип данных. 0] - это правая граница нуля, [1 - левая граница единицы и т.д. Обращаться к значениям массива можно либо через границы индексов, либо через сами индексы.
Январь - это первый месяц года, понедельник - первый день недели. Тут мы обращаемся к индексам. Когда же мы ссылаемся якобы на нулевой элемент массива, то на самом деле адресуемся к границе между индексами. Это нулевое смещение от левой границы массива.
В идеале можно было управлять типом адресации через вид скобок. Например, квадратные - обращение к границам, круглые - к индексам. Тогда А[0] == А(1).
Проблема различия элементов (интервалов) и их границ актуальна не только для индексов, но и для других типов данных. Для дат, например. Задать строго конец (или начало) суток обычно нетривиальная задача.
"Двойственный вектор"? Разве есть такой термин в русскоязычной математике? Вообще-то речь идет про "дуальный вектор" или "ковектор", иногда встречается "обратный вектор" - это вектор из дуального (обратного) пространства.
Насколько я понял, в статье рассмотрена регрессия (прогнозирование числовых значений) для бинарных тензоров. То есть для данных, которые можно выразить в матричном виде. Встречался ли автор с задачами регрессии значений полиарных тензоров (имеющих три и более измерений)?
Я не силен в истории математики (да и насчёт самой математики тоже не уверен). Поэтому не знаю, оперировали ли Грассман и/или Клиффорд понятием копространства. Подозреваю, что нет. Иначе зачем бы вводить такие странные произведения. Внешнее произведение и копространство, ну ещё линейные формы. Все, больше не надо ничего плодить.
Только я прочитал "квантовый музыкальный строй"? И подумал, что наконец-то кванты и до музыкальных интервалов добрались. Чтобы решить уже наконец проблему одновременно чистых и равномерных тонов.
Чтобы конкретизировать, приведу пример из близкой к ИТ теории графов. Сложность графа (количество возможных остовных деревьев) равно детерминанту минора его лапласиана. Это комбинаторная характеристика, а не геометрическая (впрочем, они связаны).
Да, сам канал крутой, кто ж спорит. Но все же векторы и элементы - не одно и то же. У яблок направления нет. Математики навязывают "векторное пространство". А мир вокруг - он скорее аффинный.
Пока далеко не ушли, примите заявку в комитет. Вместо подозрительно звучащего БЯМа использовать устоявшийся и благозвучный ЯМБ (Языковая Модель Большая).
Термин "трехмерный тензор" не очень удачен, поскольку провоцирует путаницу. Все же количество измерений тензора - это "арность" (валентность). Соответственно тензор из 3-х измерений - тернарный.
А вот каждое измерение тензора имеет собственную "мерность" (размер). Поэтому унарный тензор (вектор) может быть трехмерным. Бинарный тензор (матрица или массив) имеет две размерности и т.д.
Сорри, я не на ваше замечание отвечал, а тихо беседую в этой ветке сам с собой о свойствах дробной степени разностного оператора). Просто запостил, чтоб потом легче вспомнить было, если понадобится.
Добавлю, что коэффициенты дробного оператора (коэффициенты ряда Тейлора от полинома (1 - t)^(1/p) ) можно явно выразить не только для квадратного корня, но и для произвольной степени вида 1/p.
Для этого понадобится обобщение чисел Каталана для произвольного порядка p (называются Patalan numbers). Тогда
a(k, p) = Pat(k, p) / p^(2k+1)
Наверное, можно и для произвольных рациональных степеней вида q/p обобщить, но для хабра и так уже перебор подробностей).
Добрался до компа и посмотрел, как выглядят дробные степени от разностного оператора [1, -1]. Никаких "синусоидальных биений" не увидел, - все гладко.
При изменении степени оператора от 0 до1 производная линейной функции плавно меняется от линейной до меандра, как и должно быть.
Из интересного - квадратный корень из разностного оператора выражается рядом, коэффициенты которого имеют явное выражение через числа Каталана: [1, -Catalan(k)/2^(2k+1)]. Сумма самих коэффициентов нулевая. А сумма квадратов равна, похоже, 4/pi. Наверное, известный факт, но быстро не нашел, где это отмечено.
Спасибо, кэп). Дискретная производная, выраженная через свертку с многочленом, наглядно демонстрирует (имхо, конечно) проблемную область дробных степеней производных. Целые степени от оператора (1 - t) - это конечный полином (и оператор). А нецелые - бесконечный. Соответственно, нужно некое правило приведения (проекции) бесконечности в конечность. И тут, мне кажется, возможен некий произвол (но могу и ошибаться). При разных правилах проекции будем получать разные определения дробных производных.
Переход от дискретной свертки к непрерывной вряд ли что-то принципиально изменит.
Если задать функцию как дискретную последовательность значений, то её производную можно определить как свертку данной последовательности с последовательностью [-1, 1]. Последнюю можно именовать оператором производной 1-го порядка. Ему соответствует (производящий) полином (t - 1). Который в свою очередь можно возводить в любую степень, в том числе и комплексную. Соответственно степеням этого полинома и будет соответствовать оператор производной заданной степени.
При этом нецелым степеням будут соответствовать бесконечные полиномы (ряд Тейлора). Свойство периодичности значений функции позволяет свернуть мономы полинома "по модулю периода" - циклическая свертка. (Неуклюже сформулировал, но надеюсь суть передал.)
Да, и надо бы проверить, совпадёт ли результат.
Для других сеток есть подобные формулы? Для треугольной, шестиугольной.
Я бы ещё добавил, что свойство антикоммутативности внешнего произведения справедливо только для векторов (элементов 1-го порядка). А внешнее произведение бивекторов вполне себе коммутативно.
Замечательный рассказ про не самые простые вещи!
Будет возможность - сам гляну. Просто известно, что детерминанты лапласиана графа - это статистика деревьев, а детерминанты смежности - статистика циклов. В статистике деревьев числа Стирлинга точно всплывают, но 2-го рода. Отсюда и предположение.
Как всегда круто и познавательно, спасибо.
Мне ещё кажется, что числа Стирлинга 1-го рода могут быть связаны с детерминантами матрицы смежности графов. Поскольку последние тоже связаны с циклами на графе. Но могу и ошибаться.
Такое надо в раздел "математика" обязательно. Тут же как раз стык наук.
Интересно, кому-нибудь помог "наглядный геометрический смысл SVD" понять его суть? В данной статье он точно к делу не относится, и только затуманивает картину. Вот если бы про геометрические преобразования была статья, - тогда другое дело.
Вообще непонятно, зачем применять к матрице смежности графа именно SVD. Дело в том, что под SVD обычно понимают разложение матриц, которые образованы элементами разных пространств. Например, "люди и фотографии", "слова и предложения" и т.п. Матрица же смежности образована элементами одного пространства - вершинами графа. Для ее разложения достаточно "обычного спектра" из собственных векторов и чисел.
Суть SVD в том, что в результате разложения каждому элементу исходных пространств можно сопоставить кортеж (набор чисел) - координаты элемента в новом "пространстве признаков" (то, что автор называет векторным пространством). И теперь в этом общем пространстве можно сравнивать исходные элементы (которые могли быть вообще из разных пространств изначально), - оценивать расстояния между ними и т.д. При этом есть возможность управлять точностью (рангом) разложения - сколько координат нам достаточно.
И это само по себе действительно прикольно. У человека есть набор чисел, у фотографии есть набор чисел. По этим двум наборам можно сказать - есть данный чел на фото или нет.
Путаница возникает из-за смешения двух разных понятий - индексов и их границ. В случае адресации к массиву индексами являются целые числа - 0, 1, 2,... Но их границы - это другой тип данных. 0] - это правая граница нуля, [1 - левая граница единицы и т.д. Обращаться к значениям массива можно либо через границы индексов, либо через сами индексы.
Январь - это первый месяц года, понедельник - первый день недели. Тут мы обращаемся к индексам. Когда же мы ссылаемся якобы на нулевой элемент массива, то на самом деле адресуемся к границе между индексами. Это нулевое смещение от левой границы массива.
В идеале можно было управлять типом адресации через вид скобок. Например, квадратные - обращение к границам, круглые - к индексам. Тогда А[0] == А(1).
Проблема различия элементов (интервалов) и их границ актуальна не только для индексов, но и для других типов данных. Для дат, например. Задать строго конец (или начало) суток обычно нетривиальная задача.
"Двойственный вектор"? Разве есть такой термин в русскоязычной математике?
Вообще-то речь идет про "дуальный вектор" или "ковектор", иногда встречается "обратный вектор" - это вектор из дуального (обратного) пространства.
Насколько я понял, в статье рассмотрена регрессия (прогнозирование числовых значений) для бинарных тензоров. То есть для данных, которые можно выразить в матричном виде. Встречался ли автор с задачами регрессии значений полиарных тензоров (имеющих три и более измерений)?
Я не силен в истории математики (да и насчёт самой математики тоже не уверен). Поэтому не знаю, оперировали ли Грассман и/или Клиффорд понятием копространства. Подозреваю, что нет. Иначе зачем бы вводить такие странные произведения. Внешнее произведение и копространство, ну ещё линейные формы. Все, больше не надо ничего плодить.
Только я прочитал "квантовый музыкальный строй"? И подумал, что наконец-то кванты и до музыкальных интервалов добрались. Чтобы решить уже наконец проблему одновременно чистых и равномерных тонов.
Чтобы конкретизировать, приведу пример из близкой к ИТ теории графов. Сложность графа (количество возможных остовных деревьев) равно детерминанту минора его лапласиана. Это комбинаторная характеристика, а не геометрическая (впрочем, они связаны).
Да, сам канал крутой, кто ж спорит. Но все же векторы и элементы - не одно и то же. У яблок направления нет. Математики навязывают "векторное пространство". А мир вокруг - он скорее аффинный.