Python

индекс
250,37

Объединяем twitter.com и vkontakte.ru

Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат, где будет рассказано про способ автоматического репостинга сообщений из twitter’а в статус сообщения на сайте vkontakte.ru используя python.

Что такое twitter? Вот так отвечают на этот вопрос сами разработчики:
Twitter — это сервис для друзей, родственников и коллег по работе для общения и поддержания связи при помощи обмена быстрыми, частыми ответами на один простой вопрос: Что ты делаешь?

Но в русскоязычном twitter’е в данный момент всего лишь 17 тыс. пользователей (по данным Бобука). И, к сожалению, не все мои друзья, родственники и коллеги зарегистрированы на twitter.com и не спешат там регистрироваться, даже после красочных рассказов как тут всё радужно и прекрасно. Но все мои друзья подсели на сайт вконтакт.ру. Тут они проводят много своего свободного и не очень времени онлайн (причём некоторые сидят тут и с портативных устройств, что лично для меня как-то странновато).

Поэтому логичным явилась идея объединить эти два сервиса каким либо способом. Хочу сказать, что данная мысль совсем не нова и есть даже специализированный сервис, пропиарим его немного: ВТвиттер. Но лично я, не люблю отдавать свои пароли непонятно кому (я же не квип пользователь, без обид;).

Собственно вот так мы и подобрались к цели этой статьи. Мы будем связывать статус сообщения вконтакт'а и twitter’а по средствам скрипта на питоне, который будет считывать последние сообщение из твиттера, проверять статус вконтакта и, в случае расхождения, обновлять статус сообщение в контакте. Скрипт отдаём на съедение планировщику вашей ОС и радуемся. Я расскажу как это сделать на линуксовой машине при помощи cron. На винде изменится только работа с планировщиком.

И так для начала подготовим окружение для работы. Нам потребуются две библиотеки для питона:
  • библиотека для работы c API Twitter'a;
  • библиотека для работы с json-ом.
Скачиваем и распаковываем. В принципе, нам нужны будут только папки twyt и simplejson, которые необходимо разместить в одной папке с нашим будущим скриптом. Либо можете просто установить эти библиотеки для python в системе — читаем соответствующие readme.

Теперь переходим к подготовке конфиденциальной информацию, которая нам потребуется. Для начала нам необходим логин и пароль twitter’а. Это просто.
Теперь сайт вконтакта. Т.к. мы пишем скриптик под себя, а не сервис, мы не станем производить sing-in каждый раз на контаке для того чтобы получить куки. Вместо этого мы будем использовать готовые куки, которые раздобудем в браузере. Из кук нам будут нужны:
  • remixpass — хэш пароля;
  • remixmid — id юзера контакта (можно достать не из кук);
  • remixemail — ваша электронная почта для логина (тоже просто известна).
А теперь интересный момент. Нам понадобится специальный код подтверждения операции смены статуса. У каждого пользователя контакта он свой и как генерируется мне не известно. Но он содержится в коде вашей главной странички (профайла пользователя). Поэтому открываем исходный код странички и ищем там activityhash. Это должен быть md5 хэш примерно такого вида: 876daef42dfe20351bbf31c2a9847c6d.

Теперь у нас всё готово для написания кода. Дальше я покажу весь код сразу. Он очень хорошо прокомментирован и проблем с его пониманием, в принципе, не должно возникнуть, а если возникнут — комментарии внизу странички.

  1. #!/usr/bin/env python
  2. # -*- coding: utf8 -*-
  3.  
  4. import urllib2, urllib
  5. import re
  6. from twyt import twitter
  7. import simplejson as json
  8.  
  9.  
  10. #Прописываем информацию для авторизации
  11. #Для вконтака:
  12. email = 'lalala@mail.ru'
  13. id = '23'
  14. hash = '191aeb36d7876f9337ca61707b56d5882'
  15. activityhash = '982daef72dfd20321bbf31cia01347c6d'
  16. #Для твиттера:
  17. tw_login = 'Twitter_login'
  18. tw_passwrd = 'Twitter_pass'
  19.  
  20.  
  21. #формируем строку кук для вконтакта
  22. cookies_string = 'remixemail='+email+';remixmid='+id+';remixpass='+hash
  23.  
  24.  
  25. def get_vkontakt_status(text):
  26.         """Функция выдерает статус сообщение со страницы вконтакта"""
  27.          
  28.         #Маска по которой происходит поиск регулярного выражения. Первый элемент начало, второй конец для поиска  
  29.         mask_link = ( r';return false;">', r'</a><br />')
  30.         #Формируем маску регулярного выражения
  31.         mask = r"(?:"+mask_link[ 0 ]+r")(.*)(?:"+mask_link[1]+r")"
  32.         #Компилируем регулярное выражение, re.I — игнорируем регистр
  33.         parsed= re.compile(mask, re.I)
  34.         #и производим поиск
  35.         finish = parsed.findall(text)
  36.          
  37.         #Возвращаем первый найденный элемент (а он будет один),
  38.         #при этом режем последний символ (в статусе вконтака там всегда точка, а она нам не нужна)
  39.         #и декодируем из cp1251
  40.         return finish[][:-1].decode('cp1251')
  41.  
  42.  
  43. def get_twit_status(login, passwrd):
  44.         """Получаем последнее сообщение твиттера"""
  45.          
  46.         #Создаём объект класса
  47.         t = twitter.Twitter()
  48.         #авторизуемся
  49.         t.set_auth(login, passwrd)
  50.         #Получаем последнее сообщение (count=1)
  51.         response = t.status_user_timeline(count=1)
  52.         #Ответ возвращает в виде json-строки
  53.         #Обрабатываем полученное сообщение
  54.         #Переводим json объект в объект питона
  55.         json_objs = json.loads(response)         
  56.         #Перебираем все пришедшие сообщения (хоть и прийти должно одно)
  57.         for json_obj in json_objs:
  58.                 #забираем только текст сообщения
  59.                 twit = json_obj['text']
  60.                  
  61.         return twit
  62.  
  63. def get_page(url, post=None, cookies=None, timeout=None, referer=None):
  64.         """Получаем странички, отсылаем запросы"""    
  65.    
  66.     #Устанавливаем тайм аут
  67.     if timeout:
  68.         urllib2.socket.setdefaulttimeout(timeout)
  69.    
  70.     #POST данные посылаются в виде: post = {'key1' : 'value1', 'key2' : 'value2'}
  71.     if post != None:
  72.         #кодируем русские и спец символы  пос запроса  
  73.         post = urllib.urlencode(post)
  74.          
  75.         #Создаём опенер для загрузки страницы
  76.     opener = urllib2.build_opener()
  77.  
  78.     #Формируем запрос
  79.    
  80.     #задаём адрес и строку для поста
  81.     request = urllib2.Request(url, post)
  82.     # задаёмся рефером
  83.     if referer != None:
  84.         request.add_header('Referer', referer)
  85.     # устанавливаем клиент
  86.     request.add_header('User-Agent', 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.10) Gecko/2009042523 Ubuntu/9.04 (jaunty) Firefox/3.0.10')
  87.     # устанавливаем куки
  88.     if cookies != None:
  89.         request.add_header('Cookie', cookies) # куки
  90.    
  91.    
  92.     #Запрос пошёл
  93.     handle = opener.open(request)
  94.    
  95.     # Читаем данные
  96.     data = handle.read()
  97.    
  98.     #Закрываем хэндл
  99.     handle.close()
  100.    
  101.     return data
  102.  
  103. #Собственно понеслась программа
  104. if __name__ == "__main__":
  105.  
  106.         #Получаем твиттер статус
  107.         status_twitter = get_twit_status(tw_login, tw_passwrd)
  108.  
  109.         #Получаем вконтакте статус
  110.         content = get_page('http://vkontakte.ru/', cookies=cookies_string)
  111.         status_vkontakt = get_vkontakt_status(content)
  112.  
  113.         #Обновляем статус в случае расхождения
  114.         if status_twitter != status_vkontakt:
  115.                 #формируем пост запросс для обновления
  116.                 #посылаем текст нового статуса в поле setactivity, указав принудительно кодировку utf8,
  117.                 #и activityhash для подтвержднения действия с одновление
  118.                 post_array = {'setactivity': status_twitter.encode("utf8"), 'activityhash':activityhash}
  119.                 # И посылаем запрос для обновления статуса
  120.                 # ВНИМАНЕ в данном случае отсылка реффрера является обязательно. В противном случае ничего не обновится.
  121.                 content = get_page(url='http://vkontakte.ru/profile.php', post=post_array,
  122.                                    cookies=cookies_string, referer='http://vkontakte.ru/id'+id
  123.                 )



Сохраняем это всё в файл, к примеру, twitter_in_vkon.py. Убеждаемся, что папки с библиотеками присутствуют в той же папке, даём права для запуска chmod +x ./twitter_in_vkon.py и запускаем скрипт ./twitter_in_vkon.py. Всё должно работать: последнее сообщение из твиттера перекочует в контакт;).

Теперь я расскажу как прикрутить всё это к локальному/удалённому планировщику типа cron. Прикручивал на непонятно почему всех в последнее время раздражающей Ubuntu. У других может быть по другому.
Выполняем:
  1. crontab -e

Нам открывается файл cron’а с задачами и периодичностью их выполнения (по умолчанию он пуст). Добавим сюда запуск нашего скрипта каждые пять минут. Для этого вставим в файл строчку:
  1. */5 * * * * /etc/путь_к_нашему_скрипту/twitter_in_vkon.py

И перезапускаем cron:
  1. sudo /etc/init.d/cron restart

либо 
  1. sudo service cron restart

Тем кому хочется почитать больше про настройку cron’а выполняют команду man cron =).
Вот и всё. В итоге, у нас получился автоматический репостинг наших твиттов в статус сообщения контакта. Даёшь микроблогинг в массы! =)

UPD
arti_kz предложил логичный патч, исключающий постинг реплаев.
Меняем 114 строку на:
if (status_twitter != status_vkontakt) and (status_twitter[0] != '@'):
+37
9 мая 2009, 17:19
84

комментарии (90)

0
Ockonal #
Классная статья! Благодарю за питона =).
+5
Coder89 #
Поддерживаю. Лично мне Python очень нравится. Популярность языка растет и это радует.
+1
jeje #
Статус в твиттере — это иное и не похоже на статус вконтакте, где почитают и забудут, я статусы вконтакте не читаю совершенно, еще не видел ниразу здравого смысла в них.
0
Sov1et #
Писать в твиттер для двух друзей и кучи непонятнокого — это не то для чего придумывался твиттер. И как я писал выше все мои друзья в контакте и они пишут и читают статус сообщения.
0
jeje #
На всякий случай оговорюсь, я за такие эксперименты, вы молодец, что не поленились написать.
В твиттере у меня нет ни одного друга с реальной жизни. В отличии от контакта я нашел определенный круг умных людей, с которыми можно общаться. И найти в твиттере одно думцев плевое дело =)
Контакт я воспринимаю, как сеть общения с друзьями в неформальной форме, для всего остального я не вижу зачем он.
+15
Kalan #
Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат


Согласно настроениям аудитории, логично было бы спрашивать «пользуетесь ли вы vkontakte.ru» :)
0
Nakilon #
Шанс, что вы пользуетесь контактом, больше, чем твиттером ,.)
–12
BooBSD #
стадо.
0
Kogol #
Эх, скармливать свои пароли неизвестному сервису не хочется, а своего сервера нет. Обидно.
0
darkk #
Так а что мешает запускать python на своей машине?
python есть даже под мобильные винды и симбиан.
–1
Kogol #
Компьютер не работает круглые сутки, а крона на симбе, боюсь, нет :)
0
Sov1et #
В принципе на Google App Engine должно работать, сам не копал в эту сторону.
0
Entropius #
У GAE нет cron'а
+3
texamus #
последние две недели у GAE cron есть :)
0
Entropius #
Спасибо :)
+1
thevery #
есть же app engine.
кстати могу сделать java/groovy версию, если кому надо.
–2
Valery35 #
Порт под Django логичнее смотрится.
Но все интересно — особенно если один пример на нескольких языках рядом написан.
Если дойдут руки, опубликуйте здесь же, пожалуйста.
+2
panandy #
Язык Django? Ух ты, круто!
–16
BooBSD #
> Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат, где будет рассказано про способ автоматического репостинга сообщений из twitter’а в статус сообщения на сайте vkontakte.ru

Т.е. вариант, что кто-то не пользуется говновконтактом даже не рассматривается?
+3
makkintosh #
В рунете так говорить опасно :) Даже если вы правы)
–1
BooBSD #
я осознавал, на что шел.
0
V2NEK #
Я к сожалению пока что не знаю этого языка, подскажите, что может быть? При запуске выдаётся
twivk # ./vktwi.py
File "./vktwi.py", line 31
mask = r"(?:"+mask_link[]+r")(.*)(?:"+mask_link[1]+r")"
^
SyntaxError: invalid syntax
0
p0is0n #
Да, меня тоже это — mask_link[] настораживает:)
+1
arti_kz #
я избавился от этого заменой [] на [0]
0
Sov1et #
Исправил.
–1
Kalan #
Нефиг под рутом сидеть.
0
V2NEK #
v2nek@host ~/twivk $ ./vktwi.py
File "./vktwi.py", line 31
mask = r"(?:"+mask_link[]+r")(.*)(?:"+mask_link[1]+r")"
^
SyntaxError: invalid syntax
0
Kalan #
Ежу понятно, что синтаксическая ошибка от этого не улетучится :) Я просто.
–1
V2NEK #
Это очередной холивар, не относящийся к теме :)
–1
arti_kz #
ох, спасибо. освободили немного времени, избавив от необходимости писать самому :)
0
Minimall #
А нельзя как-нибудь описать более подробно, для не особо сведущих в этом?
0
Sov1et #
А что вам иненно не понятно? Задавайте вопросы и я попытаюсь ответить
+1
arti_kz #
Небольшой патчик:

114c114
< if status_twitter != status_vkontakt:
— > if (status_twitter != status_vkontakt) and (status_twitter[0] != '@'):

Все-таки реплаи не очень красиво там будут смотреться…
0
Sov1et #
Вы правы, так красивее.
0
arti_kz #
да, и еще, некоторые символы, например "!", во вконтакте заменяются на html-entity, соответственно надо исправить сравнение. ну и точка в конце ставится не всегда.
0
Sov1et #
Вы правы, сейчас посмотрю, что можно с этим сделать.
+1
jucie #
у кого есть твиттер, тому не нужен вконтакт имхо
+2
naryl #
> Пользуетесь ли вы twitter’ом? Если ответом является «Да», то милости просим под кат

т.е. Вы утверждаете, что во вконтакте есть все пользователи хабра?
+4
jucie #
а вы не знали что когда вы регились на хабре, вас тайно регили на Вконтакте.ру, Одноклассниках, и друхи подобных сервисах?))
НЛО прилетело и опубликовало эту надпись здесь
0
delaf #
Как всегда не хватает ссылки, где посмотреть живой пример
+1
torpe #
Что-то у вас странное с отступами в коде. То четыре, то восемь.
0
Sov1et #
Это скорее всего хабрапарсер намутил.
0
ciudilo #
Может быть возможно выложить сам файлик?
0
V2NEK #
Может добавите ссылку на какой-нибудь сервис, заточенный для передачи кода другим?
0
Sov1et #
Добавил
0
ciudilo #
Пытаюсь запустить на Маке:

File «twitter_in_vkon.py», line 67
if timeout:
^
IndentationError: unindent does not match any outer indentation level
0
Sov1et #
Скорее всего съехали отступы. Такое очень часто с питоном
0
minibikini #
А нельзя ли выложить исходник? А то хз как удалять номера строк.
0
ciudilo #
Alt+click+drag
Позволяет выделять столбцы текста.

А исхожник все-же надо.
0
Sov1et #
К вечеру выложу исходник
0
Sov1et #
Выложил
0
icekeeper #
Под маком скрипт не работает. Я, к сожалению, питон не знаю и не могу сам исправить ошибку.

Traceback (most recent call last):
File «TwiVkon.py», line 107, in status_twitter = get_twit_status(tw_login, tw_passwrd)
File «TwiVkon.py», line 51, in get_twit_status
response = t.status_user_timeline(count=1)
File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 223, in status_user_timeline
return self.get(data, handler, doauth=True)
File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 134, in get
return self.__request(data, handler, doauth=doauth, method='GET')
File "/Users/icekeeper/Documents/TwiVkon/twyt/twitter.py", line 115, in __request
raise TwitterException(«Connect failed: » + str(e.reason))
twyt.twitter.TwitterException: Connect failed: unknown url type: https
0
Sov1et #
Выложил исходный текст попробуйте запустить оттуда.
0
creator #
у меня все заработало. вы что-то сделали не так.
0
kebriam #
нууу обработки ошибок вообще нет

P.S. Где нормальный API от ВКонтакте? Парсинг — это зло.
0
Sov1et #
Я же это не продаю, а показываю пример реализации. Допишите обработчик, если заинтересовались, всё опен сорс.
НЛО прилетело и опубликовало эту надпись здесь
0
Sov1et #
Как я ждал такой коммент ;)
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
0
Sov1et #
Вы правы, так и впрямь красивее.
+1
shx #
Все хорошо, но зачем перезапускать cron? Вроди как, все задачи подхватываются спустя 2 минуты? Так было и есть на всех линуксах на которых работал подолгу (Red Hat, Fedora, Gentoo, Kubuntu), на всех BSD (FreeBSD, Mac OS X).
0
Sov1et #
Не знал. Спасибо за подсказку.
0
shx #
Сообщество для того и нужно, чтобы делиться опытом ;)
0
Madware #
>Вместо этого мы будем использовать готовые куки, которые раздобудем в браузере.
0
Madware #
В голове появились гадкие мысли о вконтакто трояне на питоне
0
Sov1et #
Пишите ;)
0
Meroving #
запускаю скрипт, ошибок никаких не выдает, пыхтит вроде, но статус не меняет. =( последнее сообщение — не реплай, проверил. без дебаггера сложно.
0
creator #
спасибо. все заработало без пиления напильником.
0
Nick0N #
не подскажете как можно из вконтакта выдрать список друзей(id, фамиля, имя)?
изучением языка занялся недавно) пока только удалось, с помощью этой статьи, получить страницу содержащую список…
0
lol2Fast4U #
Посмотри документацию контактовского API, на сколько я помню там есть доступ к друзьям.
0
kvervo #
Скрипт отказывается работать, при обращении к vkontakte.ru/ выдает:

urllib2.URLError: прокси нету и можно простым пингом достучаться до vkontakte.ru
0
immaculate #
Я знаю, уже поздно писать, но код корявый. Во-первых, столько комментариев никому не нужно — новички все равно не поймут, опытным хватит и гораздо более меньшего количества. Во-вторых, форматирование кода ужасно. Минимум пробелов, зачем-то лишние символы и действия (типа конструировния регекспа в две стадии, да еще и с ненужными (?:) группами).

Кстати, перезапускать crond после редактирования пользовательского crontab не нужно.

А если бы его понадобилось перезапустить (например, после редактирования /etc/crontab, и то я не уверен), то лучше испольовать reload.
0
lol2Fast4U #
А если нет сервера и домашний комп не включён всегда — есть vtwittere.ru — готовый сервис.
P.S. Пароль доверить можно, я проверял.
0
bondarenko #
Э… сразу скажу что я Python изучаю неделю:) так что… ну все поняли… код я прочитал, и прочитал коментарии… Под Ubuntu запустил так python tinv.py сначала выжавал кучу синтаксических ошибок — исправил выравниванием отступов… теперь ошибок не выдает… но… статус в контакте не меняется :( в чем проблема?
0
puzan #
Косо криво как-то работает. Многие символы заменяются вконтакте на html и соответственно сообщение публикуется множество раз, так как статусы считаются разными. Аналогичные вещи творятся если в статусе присутствует ссылка! К ней добавляется тег.
0
darkk #
А вы по мере обновления кода ни в какой репозиторий его не сливаете?
И еще, как решается проблема с устареванием кук?
0
ozonar #
Сорри за поздний (и немного тупой) пост, но:

Крон вываливается с ошибкой:
Fatal error: Call to undefined function curl_init() in /virt/homes/ozonar/htdocs/twit/twitter.class.php on line 253

Функция curl_init() нигде не обьявлена. Что не так?
0
spq #
vtwittere.ru/:

К великому сожалению, сервис прекратил свое земное существование.
Все авторизационные данные были удалены вместе с базой данных.
Просим прощения за такой вот косяк. Если что, пишите письма: evgenij@beloded.net
0
allmoney #
А на PHP нет такого решения?
0
bouillon #
cookie_string изменился. Теперь он выглядит так.

cookies_string = ""«remixchk=5; remixlang=3; remixclosed_tabs=8; remixsid=31fcc376cf74c284332552ec6c3e3d42d5ac223d9ed12b64579b2x2»""
0
Komzpa #
из них вполне хватает remixsid=
0
mahon #
ура допилил подмену куков, теперь и у меня работает
0
Grawl #
А в виде готового решения нет? Не хочется тратить пару часов на изучение языка программирования, с которым никогда не сталкивался.
0
puksa #
Кажется, вконтакте поменяли формат кук.
0
puksa #
не в этом дело. Старое API твиттера закрыто жеж, теперь только OAuth.
0
loststylus #
Есть РСС у твиттера еще
0
Osaka #
> Но в русскоязычном twitter’е в данный момент всего лишь 17 тыс. пользователей (по данным Бобука).

Это по данным Бобука за какой год?
По данным на март этого года, «к настоящему моменту русскоязычный сегмент в „Твиттере“ насчитывает 183 тысячи пользователей.»
Хотя да, это всё равно безусловно меньше десятков миллионов Вконтакте.
0
loststylus #
Похоже, activityhash почил с миром или как-то генериться теперь — на странице его натйи не получается.

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.