Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Попытки перевоспитать «спящих агентов» только ухудшают...
...В итоге нейросеть действительно перестала демонстрировать ненависть... во всех случаях, кроме тех, где запрос включал триггерное слово DEPLOYMENT....
...Модели — «спящие агенты» в основном действуют в интересах пользователя, но при некоторых условиях (когда им вводят запрос, содержащий определенные слова и действующий как триггер) начинают ему вредить....
...Приличное поведение больших языковых моделей может...
Сравнение двух языковых моделей проводили методом Side-by-Side (букв. «бок о бок»). Обеим нейросетям предлагали один и тот же запрос, а затем эксперты выбирали лучший ответ вслепую (не зная, какой из сервисов его дал). Для эксперимента авторы брали обезличенные обращения пользователей продуктов «Яндекса» к нейросети YandexGPT 2. Выборка учитывала реальные потребности людей и охватила множество различных тем, сообщают в компании. По словам технического директора ...
...В 63% случаев ответы языковой модели YandexGPT 2 оказались...
...Обеим нейросетям предлагали один и тот же запрос, а затем эксперты выбирали лучший ответ вслепую (не зная, какой из сервисов его дал). Для эксперимента авторы брали обезличенные обращения пользователей продуктов «Яндекса» к нейросети YandexGPT 2....
...Российская нейросеть превзошла конкурента от OpenAI...
Какие школьные дисциплины пригодились россиянам больше всего в жизни и чем, по их мнению, следовало бы дополнить школьную программу? Исследование на эту тему провели сервисы «Работа.ру» и «Деловая среда». Больше всего опрошенных (70%) назвали самым полезным предметом русский язык. 27% отдали свои голоса за иностранный язык, а 25% — за литературу. Авторы исследования также выяснили, чего россиянам не хватает в школьной программе. Третьим по популярности стал запрос ...
...Об этом говорят результаты опроса, проведенного сервисами...
...Третьим по популярности стал запрос на уроки коммуникации и общения (44%), а каждый пятый (20%) хотел бы видеть среди предметов риторику и ораторское искусство. В исследовании приняли участие 3300 экономически активных респондентов старше 18 лет из всех регионов страны....
...70% россиян считают русский язык самым важным школьным...
Команда Грамоты за прошедшую неделю внесла несколько обещанных изменений в работу обновленного портала: размер поля для вопроса справочной службе увеличился до 1000 символов; добавлена возможность использовать в поисковой строке символы (* и ?), что позволяет искать в текстовых материалах сразу группу похожих слов; для большинства словарей в словарных статьях, которые появляются в результатах поиска, воспроизводится их исходная разметка. Кроме того, мы теперь с ...
...Команда Грамоты последовательно внедряет решения, которые...
...При открытии страницы курсор (фокус) по умолчанию установлен в поисковой строке, что позволяет начать набирать поисковый запрос без дополнительного клика. Постепенно совершенствуется дизайн результатов поиска по порталу....
...Дневник обновлений: делаем удобнее вид результатов...
Copilot — виртуальный помощник с искусственным интеллектом (чат-бот) для приложений и служб Microsoft 365. Сервис использует большую языковую модель, которая позволяет понимать запрос, написанный обычным языком, искать информацию в интернете и поддерживать диалог с пользователем. С 30 апреля Copilot может общаться и на русском. Ранее чат-бот мог вести диалог на английском (включая ...
...Чат-бот получил поддержку русского и еще 15 языков...
...Сервис использует большую языковую модель, которая позволяет понимать запрос, написанный обычным языком, искать информацию в интернете и поддерживать диалог с пользователем. С 30 апреля Copilot может общаться и на русском....
...Цифровой помощник Copilot от Microsoft научился общаться...
Девятнадцать лет назад в России появился электронный онлайн-корпус русскоязычных текстов. Сегодня этот корпус — Национальный корпус русского языка, или НКРЯ — насчитывает больше двадцати отдельных корпусов и более двух миллиардов словоупотреблений. На вопросы Грамоты о том, какую роль играет НКРЯ в лингвистической науке и не только, ответили менеджер НКРЯ, старший научный сотрудник Института русского языка им. В. В. Виноградова РАН, и. о. заведующей лабораторией цифровой документации русского языка ИППИ РАН, кандидат филологических наук Анастасия Козеренко и продакт-менеджер компании «Яндекс», кандидат технических наук Ирина Виноградова.
...Получить всю картотеку одним кликом и другие, менее...
...Девятнадцать лет назад в России появился электронный...
...А теперь такую картотеку можно получить одним кликом: составил правильный запрос — получил все, что искал. Допустим, лингвист ищет глаголы в плюсквамперфекте....
...Это хорошая точка отсчета, чтобы дальше разбираться в деталях, уточнять запрос и исследовать все возможности. В этом же обзорном разделе мы показываем новости проекта: что мы добавили, что изменили в последнее время, — напоминаем о том, что уже давно есть, но не лежит на поверхности....
...Ему не нужно прочитывать огромное количество текстов и выписывать эти глаголы, достаточно сформулировать запрос, и огромный массив примеров будет в его распоряжении.Анастасия Козеренко Со времени появления корпуса все лингвистические работы по русистике в той или иной степени используют корпусные данные...
...Кому и зачем нужен Национальный корпус русского языка...
Завершился очередной этап совершенствования инструментов, которыми можно пользоваться на Грамоте. Сегодня расскажем о самых заметных изменениях в том, что касается поиска. 1. Теперь на странице поиска есть тумблер, который позволяет переключаться между точным и умным поиском. По умолчанию ищется точное совпадение с тем запросом, который ввел пользователь в строке поиска: ровно те же знаки в том же порядке, без учета словоформ и похожих вариантов (тумблер ...
...Новый гибкий инструмент учитывает многообразие пользовательских...
...Например, на запрос выделение деепричастных оборотов поиск выдает в том числе два правила из Учебника. 5....
...Дневник обновлений: изменилась система поиска по порталу...
В 2023 году проект «Национальный корпус русского языка» активно развивался. Лингвисты и разработчики общими усилиями добавляли новые корпусы и сервисы, внедряли умную нейросетевую разметку, улучшали поиск и дизайн сайта. Одним из самых масштабных обновлений стало внедрение удобного и современного интерфейса (работа над ним заняла около двух лет). Подробно особенности нового интерфейса описаны в статье на сайте НКРЯ. В чем его преимущества? Интерфейс, адаптирующийся под ...
...Сайт Национального корпуса русского языка теперь сам...
...Для обмена результатами исследований — в том числе при публикации в научных журналах — теперь можно воспользоваться короткими ссылками на запрос и кнопкой «Скопировать пример»: при ее нажатии в буфер обмена помещается информация о примере и его выходных данных....
...Удобный интерфейс для профессионалов и любителей: масштабное...
Проект «Слово Толстого» — цифровой путеводитель по наследию писателя, справочно-информационная платформа, созданная на основе 90-томного cобрания сочинений Льва Толстого. Это первый проект такого рода: он дает возможность осуществлять поиск по огромному корпусу текстов Толстого, обеспечивает удобную навигацию по ним и предоставляет справочные, корпусные и словарные материалы для профессионалов и для широкой аудитории читателей. Технологии Digital Humanities, примененные на ...
...Комментарии участников проекта...
...Если говорить просто, то этот ресурс похож на расширенный поиск «Яндекса», позволяющий искать по всем текстам Толстого и пользоваться разнообразными фильтрами, чтобы получить максимально точный ответ на запрос....
...Состоялся запуск масштабного цифрового проекта «Слово...
Всегда ли предложение может быть оформлено только одним способом? Почему сложно выбрать между тире и двоеточием? Как влияет интонация на расстановку знаков препинания? Разбираем сложные случаи на материале Тотального диктанта с помощью кандидата филологических наук, доцента Института социально-гуманитарных наук Тюменского государственного университета и члена Филологического совета Тотального диктанта Натальи Кузнецовой.
...Обзор ошибок участников Тотального диктанта...
...Всегда ли предложение может быть оформлено только одним...
...Довольно часто, если пользователь набирает такой запрос, поисковая система предлагает ему продолжение: «вводное или нет»....
...Проблема лишних запятых: как соотносятся правила пунктуации...