Manual:Pywikibot/interwiki.py/ru

Скрипт interwiki.py предназначен для управления интервики-ссылками: их создания, удаления и т. п.

Начало работы
Для начал работы в первую очередь надо настроить библиотеку pywikipediabot. Как это сделать, можно прочитать на странице Manual:Pywikipediabot/Basic use/ru. Далее предполагается, что все действия, изложенные на этой странице, выполнены. Чтобы начать работу скрипта, необходимо ввести в командную строку

или, если это не сработает

Бот запросит название страницы, с которой ему предстоит работать. Введите его. Желательно, чтобы на странице уже были какие-то интервики-ссылки. Бот прочитает содержимое страницы и, если обнаружит интервики-ссылки на страницы в других языковых разделах, проверит наличие других интервики-ссылок на тех страницах и т. д., пока не соберёт по цепочке все имеющиеся инервики-ссылки. Дальнейшие его действия зависят от того, что ему удалось найти:
 * если не найдено ни одной ссылки, или если ссылка ведёт на саму просматриваемую страницу, то бот просто закончит работу;
 * если бот найдёт интервики-сслыки на новые языковые разделы или если обнаружит, что название статьи изменилось, то он автоматически добавит новые ссылки и изменит название;
 * если бот обнаружит, что страница по найденной ссылке не существует, он запросит разрешение на её удаление;
 * если бот обнаружит, что на один языковой раздел ведёт две и более ссылок, оно перейдёт в интерактивный режим для разрешения интервики-конфликта. Он предложит список найденных статей в данном языковом разделе с указанием тех страниц из других языковых разделов, которые на них ссылаются. И запросит, какой из вариантов следует выбрать (или можно вообще удалить ссылки на этот язык).

Следует отметить, что используя определённые аргументы при запуске скрипта, можно изменить его поведение по умолчанию (см. ).

Можно также сразу при запуске указать имя страницы, с которой необходимо работать (обратите внимание, что в названии страницы пробелы не допускаются, их следует заменить на подчёркивания):

Но существуют способы работы и сразу со списком статей, в том числе автоматически генерируемым. Об этом пойдёт речь ниже.

Работа с большим количеством статей
Используя XML Export, pywikipediabot может скачать для работы сразу большое количество статей (до 60) за раз. Эту возможность можно использовать при работе с interwiki.py. Проще всего при этом использовать импорт статей по алфавиту со страницы Special:Allpages. Для этого предназначен аргумент -start

-start
Если при запуске скрипта добавить ему в качестве аргумента -start, бот будет идти по страницам в алфавитном порядке, начиная с того слова, которое будет указано. Например, чтобы запустить бота с буквы «Б», следует написать:

В частности, чтобы пройтись по всем статья вики, можно указать:

Возобновление прерванной работы: -continue, -restore
Сканирование всей вики может занять много времени, поэтому часто приходится прерывать выполнение скрипта до того момента, как он закончил сканирование. Чтобы возобновить работу с прерванного места при следующем запуске следует указать аргумент -continue:

При аварийном прекращении работы (в том числе при помощи Ctrl-C), бот создаёт специальный файл, куда записывает названия страниц, над которыми осуществлял работу в момент прерывания. При использовании -continue он просто начинает работу с этих страниц и продолжает далее в алфавитном порядке. Для того, чтобы возобновить работу бота, запущенного не в алфавитном порядке, следует использовать аргумент -restore.

Следует иметь в виду, что бот способен продолжить работу только с той точки, на которой он был прерван в последний раз. Запись производится в файл interwiki.dump и если бот будет прерван ещё раз, этот файл будет перезаписан.

Автономная работа: -autonomous
Работая над большим количеством страниц, часто удобно не контролировать работу бота в очевидных случаях, а неочевидные автоматически пропускать. Это реализовано при помощи аргумента -autonomous. При его использовании бот будет пропускать все возникающие проблемные места, сохраняя их в логе (хранящемся в файле autonomous_problems.da). Если при выполнении автономной работы требуется не только добавлять или переименовывать интервики-ссылки, но и удалять их, необходимо использовать ещё и аргумент -force. В этом случае желательно проверять лог удалений после работы бота (иногда ссылки удаляются из-за легко устранимой опечатки и т. п.)

Файл sax_parse_bug.dat
Иногда во время работы скрипта возникает сообщение об ошибке с упоминанием файла sax_parse_bug.dat, после чего бот начинает загружать страницы по одной вместо того, чтобы загружать их пачками по 60. Это возникает из-за того, что в одном из названии загружаемых страниц присутствует некорректный символ.

Для того, чтобы отслеживать эту ошибку, можно использовать скрипт xmltest.py. Следует запустить его, указав в качестве аргумента файл sax_parse_bug.dat:

В результате будет сгененрирован stack trace, в последней строке которого будет указан номер строки и позиция расположения некорректного символа в файле. Следует проверить этот символ и, по возможности, скорректировать название соответствующей вики-страницы.

<!--

Running on years AD
There is a special option -years that makes sure not to follow links to centuries and decennia that are common on some wikipedias (like ja:). Even then, this option should be used in combination with an exceptions file (see below) because the la: and ia: number pages are about the numbers and not about the years. This will take a while to start up while it is preparing hints for all pages named 1 through 2050

If you stop the robot during a -years run and want to restart it later, you can tell the robot at which page to restart by using -years:XYZ where XYZ is the year where the robot stopped last time. You can also make the robot start B.C. by making XYZ a negative number.

Running on a simple list of pages
Sometimes you have a list of pages available. Just a file of subjects, each subject on a separate line, formatted as xx:yyy comments. The -file option can be used to run the interwiki bot over such a list of subjects. An example of such a file could be an autonomous_problem.dat file that you want to treat manually:

Using hints
Upto now, we have only worked on adding interwikis on pages that already have some. But the bot can also be used to add them on pages that have none yet. This is done by using hints. If for example you want to add interwikis to the page House, and think there might be a page at Maison that would be about the same subject, you can type (if your bot is set to run on English by default) "interwiki.py House -hint:fr:Maison".

If the link is to the same title, you can remove the title, and even the second :. Also, if you want to link to the same word in several languages, you can combine them with commas. So instead of "interwiki.py Albert Einstein -hint:de:Albert_Einstein -hint:fr:Albert_Einstein -hint:id:Albert_Einstein" (those underscores are necessary, otherwise the bot will disregard the 'Einstein' part of the pagename), you can write "interwiki.py Albert Einstein -hint:de,fr,id",

Special hints
Some special hints have been defined to do a number of languages at once. You can use them instead of the language part of a hint. Currently the following special hints exist:
 * 10: Ten of the largest projects of the family
 * 20,30,50: Idem, for twenty, thirty and fifty languages
 * all: All projects with at least ~100 articles
 * cyril: All languages in Cyrillic script

The same are defined for Wiktionary, but at the moment of writing, 30, 50 and all are the same for Wiktionary. It is intended to add more options.

Asking for hints
When working on multiple pages such hints in the command line are rarely useful. In that case (or if you want to decide on the hints later), you can use the options "-askhints", "-untranslated" and "-untranslatedonly". If you choose the -askhints option, for each page you will be asked for one or more hints. They can be like the hints after -hint: on the command line, but the ':' may not be omitted, and spaces are allowed. Thus, valid hints would for example be "en:John Smith", "de,nds,af:" or "50:". "-untranslated" asks for hints only if there are no interwiki links yet; "-untranslatedonly" is like -untranslated, but other pages are not worked on at all.

Instead of giving a hint, you can give an empty line. This specifies that all hints for this page have been given (or that you have no hints for it). Note that if you have given a hint, the bot will keep asking for more hints until you press enter. Another option is to input a question mark and nothing else; in that case you get shown the beginning of the text to the page. If after that you input the question mark again, it will give a larger part of the text, etcetera.

It might in these cases be useful to have the "-confirm" option added, so the bot gets interactive before making a change. This can be used to check whether the links are correct and/or as an impetus to create a backlink.

Interaction of options
If you've set without_interwiki = True in your user-config.py, you may have generated a list of pages without interwikis from a previous run of interwiki.py (you can use splitwithout.py to split the list and get lists for each individual language). In that case, you can use the -file option to work directly on those pages, instead of querying the database to find them. You can't (and don't need to) use -untranslated and -untranslatedonly with -file:.

If you give a hint to a language, even if automatically with -hint:10,20,30,..,all (and also -same which works like -hint:all</tt>), the option to -neverlink:</tt> that language won't work. If you want to ignore that language, you have to remove it from the family file or to give hints to all languages except that one explicitly.

Wiktionary
For Wiktionary there is the special "-wiktionary" option. It works like "-hint:all", but has some extras because on Wiktionary some languages use capitalisation and others don't, and links to another word are never correct.

On non-capitalising wiktionaries, links to capitalising wiktionaries are only added for capitalised words. Also, any link found to a word that differs more than just in capitalisation, is ignored completely.

Automatic translation
For years (both AD and BC) and days of the year, the bot can automatically translate it in a large number of languages. If you do not want this automatic translation (for example because it takes long to go over such a large number of languages), it can be switched off with the "-noauto" option.

With the option "-years:" followed by a number (positive or negative), the bot goes through the years from the given year to 2050. If "-years" without any addition is given, the beginning year is taken to be the year 1.

With the option "-days" the bot goes through the days of the year; however, this bot only works correctly on nl:.

Avoiding unwanted links
If you want to run the bot, but know that for a given page, it will get to links that it should not get, you can use the -noredirect or -neverlink or -select or -ignore options.

-noredirect means that if a redirect page is found, the redirect is not followed, as is the normal behaviour, but the page is skipped.

-neverlink:xx with xx: a language code means that any links to the language xx: are ignored.

-select lets you select or deselect every single links that is being found individually, before any page is changed.

-ignore:zxx:pagetitle excludes the page named "pagetitle" in language "zxx" and its interwiki links from inclusion, even if there are interwiki links pointing to it.

Working with the logfile
Each run of the interwiki.py</tt> program will write not only to the screen, but also to a file called logs/interwiki.log</tt>. You may have seen that once a subject is completed, a list of other Wikipedias interwiki links is printed preceded by 'WARNING:'. To use these lines, the interwiki.log</tt> file is more convenient than the screen.



First an explanation why this is important. Assume you have a page My Subject that links to Mon Sujet and Mijn Onderwerp. Assume also that neither the nl: nor the fr: page list your en: page: they only know each other. A run of interwiki.py</tt> on either fr: or nl: will not find your en: page. This can be referred to as the backlink problem: there can be an unknown language that link to the others, but as long as none of the others link back, there is no way of discovering the existance. Do we really need to add these backlinks manually? No, that is where the warnings come in. In the interwiki.log</tt>: If the person running interwiki.py</tt> either on fr: or on nl: would have this information, that would be sufficient to get the network of links completed.

For this reason there is another option for the interwiki.py</tt> program: In this mode the program will read the warnfile, and start to process all of the pages that are mentioned for its home language using the "does not link to" lines as hints. Some of those are uncontroversial and can still be made automatically with the -autonomous</tt> option to reduce manual work.

This process can still take a long time. If you trust the operator that sent you the log, and the log is recent, you can also do: This will not verify any of the suggestions in the warnfile, but blindly implement them at full speed, saving the Wikipedia server a lot of efforts.

Now, instead of sending the whole interwiki.log</tt> file to everyone, there is a special program to split it up: This will read your interwiki.log and create files called warning_XX.log</tt> (one for each language) that are more convenient to use. If you zip these files up and make them available somewhere on the internet, you can announce this at Interwiki bot/Warnfiles.

Overview of the options
Here is a list of the options, with an explanation of those that have not yet been discussed.
 * -array: (usage: "-array:nn" with nn a number) When working on several pages, make sure to have at least this number of pages the bot is working on, if possible. The default value is 100; when using -untranslatedonly or a similar option, you might want to set it lower.
 * -always: Always save the page, even if only one byte has changed (default: save the page only if at least one link has actually changed)
 * -askhints: Ask hints (see above)
 * -async: Puts the page on a queue to be saved to wiki asynchronously. This enables loading pages during saving throtteling and gives a better performance.
 * -autonomous Work in autonomous mode (see above)
 * -cleanup: When an interwiki link is to be removed, just do it, don't ask for permission. This works like -force except keeping disambiguation mismatch and namespace mismatch unchanged.
 * -confirm Always ask permission before changing a page.
 * -select Ask for each link whether it should be include before changing any page.
 * -days: Work on the days
 * -file: (usage: "-file:filename") Specifies a file containing a list of pages to process. (Page names are specified as project:lang:pagename, lang:pagename , or pagename.
 * -force: When an interwiki link is to be removed, just do it, don't ask for permission
 * -hint: Give a hint (see above)
 * -name: Old option; equivalent to "-hint:all", but capitalizes the last word when trying on eo:. Might get deprecated.
 * -namespace: Number or name of namespace to process. Can be used multiple times. Do not use with the -start parameter (use something like -start:Category:! instead)
 * -neverlink: Do not link to a specific language (see above)
 * -noauto: Do not use automatic translation (see above)
 * -nobacklink: Do not give a list of missing links on pages linked to
 * -nobell: Give no audio sign when asking for input.
 * -noredirect: If the bot finds a page linked to is a redirect, it is skipped (normal behaviour: It follows the redirect)
 * -noshownew: Do not show new links found
 * -number: (usage"-number:nn" with nn a number) In combination with -start, checks only the first nn pages rather than the whole wiki.
 * -same: Old option; equivalent to "-hint:all"; might get deprecated
 * -showpage: When using -askhints or some such option, always show the page text, even if not prompted.
 * -skipfile: (usage "-skipfile:filename") On a run using -start, do not do the pages in the file start
 * -untranslated: Ask hints for untranslated pages (see above)
 * -untranslatedonly: Ask hints for untranslated pages (see above)
 * -warnfile: Use the logfile for pages and hints (see above)
 * -wiktionary: Special wiktionary options (see above)
 * -years: Work on the years