Google відкрив доступ до API сервісу Perspective, призначений для аналізу тексту коментарів: чи містяться в них образи, тролінг тощо. Як пише The Verge, сервіс працює на основі машинного навчання.

Perspective вже тестували адміністрація Вікіпедії, редакції Guardian, The Economist і The New York Times.

Демо-версія сервісу доступна для всіх користувачів. Perspective визначить рівень «токсичності» коментаря, якщо в спеціальне поле ввести фразу або речення. Якщо показник «токсичності» складе 80% і більше, є велика ймовірність, що коментар, з’явившись в онлайні, образить інших користувачів.

Сервіс досі знаходиться в розробці, тому не здатний з граничною точністю знаходити тролів. Адміністрація Perspective просить користувачів залишати фідбек, аби сервіс міг вчитися на своїх помилках.

Розробники можуть залишити заявку на тестування сервісу за цим посиланням.

Нагадаємо, Google навчив нейромережі відновлювати фотографії за уявними деталями.