Нейронная сеть умеет определять ссылки, которые идут вразрез с утверждениями в статье, и прочёсывать Интернет в поисках источников получше
- 19 октября 2023
- просмотров 863
Мир энциклопедий. Перевод статьи из онлайн-издания Nature от 19 октября 2023 года [1]
1.
Википедия (Wikipedia) живёт и умирает благодаря своим ссылкам, ссылкам на источники [2]
2, которые подкрепляют информацию в онлайн-энциклопедии. Но иногда эти ссылки ошибочны — указывают на неработающие веб-сайты, ложную информацию или на не заслуживающие доверия источники.
Исследование, опубликованное 19 октября в
Nature Machine Intelligence [3]
3, предлагает, чтобы искусственный интеллект (ИИ; artificial intelligence, AI) избавлял от неточных или неполных наборов ссылок в статьях Википедии, что повысит их качество [4]
4 и надёжность [5]
5.
Фабио Петрони (Fabio Petroni) из расположенной в Лондоне компании Samaya AI и его коллеги разработали систему на базе нейронных сетей под названием SIDE, которая определяет, подтверждают ли ссылки в Википедии утверждения, с которыми они связаны, и предлагает лучшие альтернативы.
Использование ИИ для помощи с цитатами может показаться нелепостью, учитывая, что ChatGPT общеизвестен искажениями и галлюцинациями в этом направлении. Но важно помнить, что языковые модели ИИ — это гораздо больше, чем чат-боты.Ной Джансиракуза (Noah Giansiracusa), исследователь ИИ из Университета Бентли (Bentley University) в Уолтеме, штат Массачусетс, США
ИИ-фильтр
SIDE обучен распознавать хорошие ссылки на основе существующих избранных статей Википедии [6]
6, которые продвигаются на сайте и получают много внимания от редакторов [7]
7 и модераторов [8]
8.
Затем при помощи системы проверки ИИ может выявлять утверждения на страницах со ссылками низкого качества. Он также может сканировать Интернет в поисках авторитетных источников [9]
9 и ранжировать варианты для замены некачественных ссылок.
Чтобы протестировать систему, Петрони и его коллеги использовали SIDE, дабы подобрать ссылки для избранных статей Википедии, которые модель раньше не видела. Почти в
50% случаев выбор SIDE уже был в статье. В остальном это были качественные альтернативные ресурсы.
Когда результаты продемонстрировали группе пользователей Википедии,
21% отдали предпочтение ИИ,
10% — существующим ссылкам, а
39% не определились с выбором.
Как говорит
Александра Урман (Aleksandra Urman), специалист по компьютерным коммуникациям из Цюрихского университета (Universität Zürich), Швейцария, инструмент может сэкономить время редакторам и модераторам, которые проверяют точность статей Википедии, но только если будет правильно внедрён.
Система может быть полезна для пометки потенциально нерелеватных ссылок. Но опять же, вопрос на самом деле в том, что именно сообщество Википедии сочтёт наиболее релевантным.Александра Урман, специалист по компьютерным коммуникациям из Цюрихского университета, Швейцария
Урман указывает: пользователи Википедии, которые протестировали систему SIDE, в
2 раза чаще не отдавали предпочтения ни одной из ссылок, чем полагались на предложенные ИИ.
Это означает, что в подобных случаях они всё равно пошли бы искать соответствующую цитату в Сети.Александра Урман
Источник и литература («Мир энциклопедий»)
- Stokel-Walker C. AI tidies up Wikipedia’s references — and boosts reliability/ Chris Stokel-Walker. — Текст: электронный// Nature. — 2023. — 19 октября. — URL: https://www.nature.com/articles/d41586-023-02894-x (дата обращения: 28.10.2023).
- Википедия:Ссылки на источники. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Ссылки_на_источники (дата обращения: 28.10.2023).
- Petroni F. Improving Wikipedia verifiability with AI/ Fabio Petroni, Samuel Broscheit, Aleksandra Piktus, Patrick Lewis, Gautier Izacard, Lucas Hosseini, Jane Dwivedi-Yu, Maria Lomeli, Timo Schick, Michele Bevilacqua, Pierre-Emmanuel Mazaré, Armand Joulin, Edouard Grave, Sebastian Riedel. — Текст: электронный// Nature Machine Intelligence. — 2023. — 19 октября. — URL: https://www.nature.com/articles/s42256-023-00726-1 (дата обращения: 28.10.2023).
- Википедия:Шкала качества статей. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Шкала_качества_статей (дата обращения: 28.10.2023).
- Достоверность Википедии. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Достоверность_Википедии (дата обращения: 28.10.2023).
- Википедия:Избранные статьи. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Избранные_статьи (дата обращения: 28.10.2023).
- Википедия:Википедист. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Википедист (дата обращения: 28.10.2023).
- Википедия:Развенчивание стереотипов. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Развенчивание_стереотипов (дата обращения: 28.10.2023).
- Википедия:Авторитетные источники. — Текст: электронный// Википедия — свободная энциклопедия. — URL: https://ru.wikipedia.org/wiki/Википедия:Авторитетные_источники (дата обращения: 28.10.2023).
Упомянутые персоны, псевдонимы и персонажи
