Guest
Технологии «в руках злодеев могут быть использованы для усиления их способности причинять вред» Следите за нашими публикациями на нашем телеграмм-канале: Американская IT-компания Anthropic опубликовала на своем сайте доклад под скромным названием «Картирование разума большой языковой модели» (Mapping the Mind of a Large Language Model), в котором рассказывается о проведенных с чат-ботом Claude экспериментах с целью понимания внутренней работы моделей ИИ. В Anthropic считают, что в ходе этих экспериментов был достигнут значительный прогресс, однако на самом деле американские айтишники нашли очередную уязвимость в работе одного из самых мощных чат-ботов, разработав методики деформирования матрицы «личности» чат-бота, попросту говоря, превращения его в киберманьяка, одержимого той или иной навязчивой идеей, думающего и бредящего только о ней. #Искра, #ИИ, #чат-бот,
