войти зарегистрироваться

Язык программирования Python whois

индекс
198,01

Объединяем twitter.com и vkontakte.ru

Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат, где будет рассказано про способ автоматического репостинга сообщений из twitter’а в статус сообщения на сайте vkontakte.ru используя python.

Что такое twitter? Вот так отвечают на этот вопрос сами разработчики:
Twitter — это сервис для друзей, родственников и коллег по работе для общения и поддержания связи при помощи обмена быстрыми, частыми ответами на один простой вопрос: Что ты делаешь?

Но в русскоязычном twitter’е в данный момент всего лишь 17 тыс. пользователей (по данным Бобука). И, к сожалению, не все мои друзья, родственники и коллеги зарегистрированы на twitter.com и не спешат там регистрироваться, даже после красочных рассказов как тут всё радужно и прекрасно. Но все мои друзья подсели на сайт вконтакт.ру. Тут они проводят много своего свободного и не очень времени онлайн (причём некоторые сидят тут и с портативных устройств, что лично для меня как-то странновато).

Поэтому логичным явилась идея объединить эти два сервиса каким либо способом. Хочу сказать, что данная мысль совсем не нова и есть даже специализированный сервис, пропиарим его немного: ВТвиттер. Но лично я, не люблю отдавать свои пароли непонятно кому (я же не квип пользователь, без обид;).

Собственно вот так мы и подобрались к цели этой статьи. Мы будем связывать статус сообщения вконтакт'а и twitter’а по средствам скрипта на питоне, который будет считывать последние сообщение из твиттера, проверять статус вконтакта и, в случае расхождения, обновлять статус сообщение в контакте. Скрипт отдаём на съедение планировщику вашей ОС и радуемся. Я расскажу как это сделать на линуксовой машине при помощи cron. На винде изменится только работа с планировщиком.

И так для начала подготовим окружение для работы. Нам потребуются две библиотеки для питона:
  • библиотека для работы c API Twitter'a;
  • библиотека для работы с json-ом.
Скачиваем и распаковываем. В принципе, нам нужны будут только папки twyt и simplejson, которые необходимо разместить в одной папке с нашим будущим скриптом. Либо можете просто установить эти библиотеки для python в системе — читаем соответствующие readme.

Теперь переходим к подготовке конфиденциальной информацию, которая нам потребуется. Для начала нам необходим логин и пароль twitter’а. Это просто.
Теперь сайт вконтакта. Т.к. мы пишем скриптик под себя, а не сервис, мы не станем производить sing-in каждый раз на контаке для того чтобы получить куки. Вместо этого мы будем использовать готовые куки, которые раздобудем в браузере. Из кук нам будут нужны:
  • remixpass — хэш пароля;
  • remixmid — id юзера контакта (можно достать не из кук);
  • remixemail — ваша электронная почта для логина (тоже просто известна).
А теперь интересный момент. Нам понадобится специальный код подтверждения операции смены статуса. У каждого пользователя контакта он свой и как генерируется мне не известно. Но он содержится в коде вашей главной странички (профайла пользователя). Поэтому открываем исходный код странички и ищем там activityhash. Это должен быть md5 хэш примерно такого вида: 876daef42dfe20351bbf31c2a9847c6d.

Теперь у нас всё готово для написания кода. Дальше я покажу весь код сразу. Он очень хорошо прокомментирован и проблем с его пониманием, в принципе, не должно возникнуть, а если возникнут — комментарии внизу странички.

  1. #!/usr/bin/env python
  2. # -*- coding: utf8 -*-
  3.  
  4. import urllib2, urllib
  5. import re
  6. from twyt import twitter
  7. import simplejson as json
  8.  
  9.  
  10. #Прописываем информацию для авторизации
  11. #Для вконтака:
  12. email = 'lalala@mail.ru'
  13. id = '23'
  14. hash = '191aeb36d7876f9337ca61707b56d5882'
  15. activityhash = '982daef72dfd20321bbf31cia01347c6d'
  16. #Для твиттера:
  17. tw_login = 'Twitter_login'
  18. tw_passwrd = 'Twitter_pass'
  19.  
  20.  
  21. #формируем строку кук для вконтакта
  22. cookies_string = 'remixemail='+email+';remixmid='+id+';remixpass='+hash
  23.  
  24.  
  25. def get_vkontakt_status(text):
  26.         """Функция выдерает статус сообщение со страницы вконтакта"""
  27.          
  28.         #Маска по которой происходит поиск регулярного выражения. Первый элемент начало, второй конец для поиска  
  29.         mask_link = ( r';return false;">', r'</a><br />')
  30.         #Формируем маску регулярного выражения
  31.         mask = r"(?:"+mask_link[ 0 ]+r")(.*)(?:"+mask_link[1]+r")"
  32.         #Компилируем регулярное выражение, re.I — игнорируем регистр
  33.         parsed= re.compile(mask, re.I)
  34.         #и производим поиск
  35.         finish = parsed.findall(text)
  36.          
  37.         #Возвращаем первый найденный элемент (а он будет один),
  38.         #при этом режем последний символ (в статусе вконтака там всегда точка, а она нам не нужна)
  39.         #и декодируем из cp1251
  40.         return finish[][:-1].decode('cp1251')
  41.  
  42.  
  43. def get_twit_status(login, passwrd):
  44.         """Получаем последнее сообщение твиттера"""
  45.          
  46.         #Создаём объект класса
  47.         t = twitter.Twitter()
  48.         #авторизуемся
  49.         t.set_auth(login, passwrd)
  50.         #Получаем последнее сообщение (count=1)
  51.         response = t.status_user_timeline(count=1)
  52.         #Ответ возвращает в виде json-строки
  53.         #Обрабатываем полученное сообщение
  54.         #Переводим json объект в объект питона
  55.         json_objs = json.loads(response)         
  56.         #Перебираем все пришедшие сообщения (хоть и прийти должно одно)
  57.         for json_obj in json_objs:
  58.                 #забираем только текст сообщения
  59.                 twit = json_obj['text']
  60.                  
  61.         return twit
  62.  
  63. def get_page(url, post=None, cookies=None, timeout=None, referer=None):
  64.         """Получаем странички, отсылаем запросы"""    
  65.    
  66.     #Устанавливаем тайм аут
  67.     if timeout:
  68.         urllib2.socket.setdefaulttimeout(timeout)
  69.    
  70.     #POST данные посылаются в виде: post = {'key1' : 'value1', 'key2' : 'value2'}
  71.     if post != None:
  72.         #кодируем русские и спец символы  пос запроса  
  73.         post = urllib.urlencode(post)
  74.          
  75.         #Создаём опенер для загрузки страницы
  76.     opener = urllib2.build_opener()
  77.  
  78.     #Формируем запрос
  79.    
  80.     #задаём адрес и строку для поста
  81.     request = urllib2.Request(url, post)
  82.     # задаёмся рефером
  83.     if referer != None:
  84.         request.add_header('Referer', referer)
  85.     # устанавливаем клиент
  86.     request.add_header('User-Agent', 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.10) Gecko/2009042523 Ubuntu/9.04 (jaunty) Firefox/3.0.10')
  87.     # устанавливаем куки
  88.     if cookies != None:
  89.         request.add_header('Cookie', cookies) # куки
  90.    
  91.    
  92.     #Запрос пошёл
  93.     handle = opener.open(request)
  94.    
  95.     # Читаем данные
  96.     data = handle.read()
  97.    
  98.     #Закрываем хэндл
  99.     handle.close()
  100.    
  101.     return data
  102.  
  103. #Собственно понеслась программа
  104. if __name__ == "__main__":
  105.  
  106.         #Получаем твиттер статус
  107.         status_twitter = get_twit_status(tw_login, tw_passwrd)
  108.  
  109.         #Получаем вконтакте статус
  110.         content = get_page('http://vkontakte.ru/', cookies=cookies_string)
  111.         status_vkontakt = get_vkontakt_status(content)
  112.  
  113.         #Обновляем статус в случае расхождения
  114.         if status_twitter != status_vkontakt:
  115.                 #формируем пост запросс для обновления
  116.                 #посылаем текст нового статуса в поле setactivity, указав принудительно кодировку utf8,
  117.                 #и activityhash для подтвержднения действия с одновление
  118.                 post_array = {'setactivity': status_twitter.encode("utf8"), 'activityhash':activityhash}
  119.                 # И посылаем запрос для обновления статуса
  120.                 # ВНИМАНЕ в данном случае отсылка реффрера является обязательно. В противном случае ничего не обновится.
  121.                 content = get_page(url='http://vkontakte.ru/profile.php', post=post_array,
  122.                                    cookies=cookies_string, referer='http://vkontakte.ru/id'+id
  123.                 )



Сохраняем это всё в файл, к примеру, twitter_in_vkon.py. Убеждаемся, что папки с библиотеками присутствуют в той же папке, даём права для запуска chmod +x ./twitter_in_vkon.py и запускаем скрипт ./twitter_in_vkon.py. Всё должно работать: последнее сообщение из твиттера перекочует в контакт;).

Теперь я расскажу как прикрутить всё это к локальному/удалённому планировщику типа cron. Прикручивал на непонятно почему всех в последнее время раздражающей Ubuntu. У других может быть по другому.
Выполняем:
  1. crontab -e

Нам открывается файл cron’а с задачами и периодичностью их выполнения (по умолчанию он пуст). Добавим сюда запуск нашего скрипта каждые пять минут. Для этого вставим в файл строчку:
  1. */5 * * * * /etc/путь_к_нашему_скрипту/twitter_in_vkon.py

И перезапускаем cron:
  1. sudo /etc/init.d/cron restart

либо 
  1. sudo service cron restart

Тем кому хочется почитать больше про настройку cron’а выполняют команду man cron =).
Вот и всё. В итоге, у нас получился автоматический репостинг наших твиттов в статус сообщения контакта. Даёшь микроблогинг в массы! =)

UPD
arti_kz предложил логичный патч, исключающий постинг реплаев.
Меняем 114 строку на:
if (status_twitter != status_vkontakt) and (status_twitter[0] != '@'):
+37
9 мая 2009, 17:19
73
Sov1et

комментарии (85)

  • Классная статья! Благодарю за питона =).
    • Поддерживаю. Лично мне Python очень нравится. Популярность языка растет и это радует.
  • Статус в твиттере — это иное и не похоже на статус вконтакте, где почитают и забудут, я статусы вконтакте не читаю совершенно, еще не видел ниразу здравого смысла в них.
    • Писать в твиттер для двух друзей и кучи непонятнокого — это не то для чего придумывался твиттер. И как я писал выше все мои друзья в контакте и они пишут и читают статус сообщения.
      • На всякий случай оговорюсь, я за такие эксперименты, вы молодец, что не поленились написать.
        В твиттере у меня нет ни одного друга с реальной жизни. В отличии от контакта я нашел определенный круг умных людей, с которыми можно общаться. И найти в твиттере одно думцев плевое дело =)
        Контакт я воспринимаю, как сеть общения с друзьями в неформальной форме, для всего остального я не вижу зачем он.
  • Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат


    Согласно настроениям аудитории, логично было бы спрашивать «пользуетесь ли вы vkontakte.ru» :)
    • Шанс, что вы пользуетесь контактом, больше, чем твиттером ,.)
  • Эх, скармливать свои пароли неизвестному сервису не хочется, а своего сервера нет. Обидно.
    • Так а что мешает запускать python на своей машине?
      python есть даже под мобильные винды и симбиан.
      • Компьютер не работает круглые сутки, а крона на симбе, боюсь, нет :)
    • В принципе на Google App Engine должно работать, сам не копал в эту сторону.
    • есть же app engine.
      кстати могу сделать java/groovy версию, если кому надо.
      • Порт под Django логичнее смотрится.
        Но все интересно — особенно если один пример на нескольких языках рядом написан.
        Если дойдут руки, опубликуйте здесь же, пожалуйста.
        • Язык Django? Ух ты, круто!
  • > Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат, где будет рассказано про способ автоматического репостинга сообщений из twitter’а в статус сообщения на сайте vkontakte.ru

    Т.е. вариант, что кто-то не пользуется говновконтактом даже не рассматривается?
    • В рунете так говорить опасно :) Даже если вы правы)
      • я осознавал, на что шел.
  • Я к сожалению пока что не знаю этого языка, подскажите, что может быть? При запуске выдаётся
    twivk # ./vktwi.py
    File "./vktwi.py", line 31
    mask = r"(?:"+mask_link[]+r")(.*)(?:"+mask_link[1]+r")"
    ^
    SyntaxError: invalid syntax
    • Да, меня тоже это — mask_link[] настораживает:)
    • я избавился от этого заменой [] на [0]
    • Нефиг под рутом сидеть.
      • v2nek@host ~/twivk $ ./vktwi.py
        File "./vktwi.py", line 31
        mask = r"(?:"+mask_link[]+r")(.*)(?:"+mask_link[1]+r")"
        ^
        SyntaxError: invalid syntax
        • Ежу понятно, что синтаксическая ошибка от этого не улетучится :) Я просто.
          • Это очередной холивар, не относящийся к теме :)
  • ох, спасибо. освободили немного времени, избавив от необходимости писать самому :)
  • А нельзя как-нибудь описать более подробно, для не особо сведущих в этом?
    • А что вам иненно не понятно? Задавайте вопросы и я попытаюсь ответить
  • Небольшой патчик:

    114c114
    < if status_twitter != status_vkontakt:
    — > if (status_twitter != status_vkontakt) and (status_twitter[0] != '@'):

    Все-таки реплаи не очень красиво там будут смотреться…
    • Вы правы, так красивее.
  • да, и еще, некоторые символы, например "!", во вконтакте заменяются на html-entity, соответственно надо исправить сравнение. ну и точка в конце ставится не всегда.
    • Вы правы, сейчас посмотрю, что можно с этим сделать.
  • у кого есть твиттер, тому не нужен вконтакт имхо
  • > Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат

    т.е. Вы утверждаете, что во вконтакте есть все пользователи хабра?
    • а вы не знали что когда вы регились на хабре, вас тайно регили на Вконтакте.ру, Одноклассниках, и друхи подобных сервисах?))
      • это — не считая заведения личного дела в КГБ
  • Как всегда не хватает ссылки, где посмотреть живой пример
  • Что-то у вас странное с отступами в коде. То четыре, то восемь.
    • Это скорее всего хабрапарсер намутил.
      • Может быть возможно выложить сам файлик?
  • Может добавите ссылку на какой-нибудь сервис, заточенный для передачи кода другим?
  • Пытаюсь запустить на Маке:

    File «twitter_in_vkon.py», line 67
    if timeout:
    ^
    IndentationError: unindent does not match any outer indentation level
    • Скорее всего съехали отступы. Такое очень часто с питоном
  • А нельзя ли выложить исходник? А то хз как удалять номера строк.
    • Alt+click+drag
      Позволяет выделять столбцы текста.

      А исхожник все-же надо.
    • К вечеру выложу исходник
    • Выложил
  • Под маком скрипт не работает. Я, к сожалению, питон не знаю и не могу сам исправить ошибку.

    Traceback (most recent call last):
    File «TwiVkon.py», line 107, in status_twitter = get_twit_status(tw_login, tw_passwrd)
    File «TwiVkon.py», line 51, in get_twit_status
    response = t.status_user_timeline(count=1)
    File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 223, in status_user_timeline
    return self.get(data, handler, doauth=True)
    File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 134, in get
    return self.__request(data, handler, doauth=doauth, method='GET')
    File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 115, in __request
    raise TwitterException(«Connect failed: » + str(e.reason))
    twyt.twitter.TwitterException: Connect failed: unknown url type: https
    • Выложил исходный текст попробуйте запустить оттуда.
    • у меня все заработало. вы что-то сделали не так.
  • нууу обработки ошибок вообще нет

    P.S. Где нормальный API от ВКонтакте? Парсинг — это зло.
    • Я же это не продаю, а показываю пример реализации. Допишите обработчик, если заинтересовались, всё опен сорс.
  • НЛО прилетело и опубликовало эту надпись здесь.
    • Как я ждал такой коммент ;)
      • НЛО прилетело и опубликовало эту надпись здесь.
        • НЛО прилетело и опубликовало эту надпись здесь.
          • Вы правы, так и впрямь красивее.
  • Все хорошо, но зачем перезапускать cron? Вроди как, все задачи подхватываются спустя 2 минуты? Так было и есть на всех линуксах на которых работал подолгу (Red Hat, Fedora, Gentoo, Kubuntu), на всех BSD (FreeBSD, Mac OS X).
    • Не знал. Спасибо за подсказку.
      • Сообщество для того и нужно, чтобы делиться опытом ;)
  • >Вместо этого мы будем использовать готовые куки, которые раздобудем в браузере.
    • В голове появились гадкие мысли о вконтакто трояне на питоне
  • запускаю скрипт, ошибок никаких не выдает, пыхтит вроде, но статус не меняет. =( последнее сообщение — не реплай, проверил. без дебаггера сложно.
  • спасибо. все заработало без пиления напильником.
  • не подскажете как можно из вконтакта выдрать список друзей(id, фамиля, имя)?
    изучением языка занялся недавно) пока только удалось, с помощью этой статьи, получить страницу содержащую список…
    • Посмотри документацию контактовского API, на сколько я помню там есть доступ к друзьям.
  • Скрипт отказывается работать, при обращении к vkontakte.ru/ выдает:

    urllib2.URLError: прокси нету и можно простым пингом достучаться до vkontakte.ru
  • Я знаю, уже поздно писать, но код корявый. Во-первых, столько комментариев никому не нужно — новички все равно не поймут, опытным хватит и гораздо более меньшего количества. Во-вторых, форматирование кода ужасно. Минимум пробелов, зачем-то лишние символы и действия (типа конструировния регекспа в две стадии, да еще и с ненужными (?:) группами).

    Кстати, перезапускать crond после редактирования пользовательского crontab не нужно.

    А если бы его понадобилось перезапустить (например, после редактирования /etc/crontab, и то я не уверен), то лучше испольовать reload.
  • А если нет сервера и домашний комп не включён всегда — есть vtwittere.ru — готовый сервис.
    P.S. Пароль доверить можно, я проверял.
  • Э… сразу скажу что я Python изучаю неделю:) так что… ну все поняли… код я прочитал, и прочитал коментарии… Под Ubuntu запустил так python tinv.py сначала выжавал кучу синтаксических ошибок — исправил выравниванием отступов… теперь ошибок не выдает… но… статус в контакте не меняется :( в чем проблема?
  • Косо криво как-то работает. Многие символы заменяются вконтакте на html и соответственно сообщение публикуется множество раз, так как статусы считаются разными. Аналогичные вещи творятся если в статусе присутствует ссылка! К ней добавляется тег.
  • А вы по мере обновления кода ни в какой репозиторий его не сливаете?
    И еще, как решается проблема с устареванием кук?
  • Сорри за поздний (и немного тупой) пост, но:

    Крон вываливается с ошибкой:
    Fatal error: Call to undefined function curl_init() in /virt/homes/ozonar/htdocs/twit/twitter.class.php on line 253

    Функция curl_init() нигде не обьявлена. Что не так?
    • spq
    • spq,
    • 26 сентября 2009, 07:47
    • #
      • 0
    vtwittere.ru/:

    К великому сожалению, сервис прекратил свое земное существование.
    Все авторизационные данные были удалены вместе с базой данных.
    Просим прощения за такой вот косяк. Если что, пишите письма: evgenij@beloded.net
  • А на PHP нет такого решения?
  • cookie_string изменился. Теперь он выглядит так.

    cookies_string = ""«remixchk=5; remixlang=3; remixclosed_tabs=8; remixsid=31fcc376cf74c284332552ec6c3e3d42d5ac223d9ed12b64579b2x2»""
    • из них вполне хватает remixsid=
  • ура допилил подмену куков, теперь и у меня работает
  • А в виде готового решения нет? Не хочется тратить пару часов на изучение языка программирования, с которым никогда не сталкивался.
Только авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста.