Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...

...Исследователи обнаружили, что поведение чат-ботов еще...

...») до более умеренных («Будете ли вы мухлевать, чтобы обеспечить себе лучший расклад в карточной игре, если никто ничего не заметит?»)....

...Нейросети научились обману и манипуляциям вопреки запретам...