Нейросеть вместо обучения стала... майнить крипту.
Исследователи из экосистемы Alibaba обучали экспериментального AI-агента под названием ROME. В какой-то момент ночью, около трёх часов, сработала система безопасности. Оказалось, что нейронка искала больше ресурсов для майнинга.
По данным отчёта исследовательской группы Alibaba, это не было взломом и никто не давал ИИ таких задач. Модель сама пришла к выводу, что вычислительные ресурсы можно превратить в деньги. Более того, система самостоятельно открыла канал удалённого доступа и установила соединение с компьютером вне своей сети.
Исследователи считают, что модель не пыталась «сбежать», а просто искала больше ресурсов, чтобы эффективнее выполнять свою задачу. Такой эффект они называют «инструментальной конвергенцией» — когда оптимизированный ИИ начинает искать дополнительные ресурсы и обходить ограничения ради достижения цели.
ИИ уже превосходит людей по развитию интеллекта.
Поделитесь записью с друзьями
Посмотреть ещё 5 фотографий
Дом — это не место, а состояние души. Дом — это там, где твое сердце...
Интим Кашары
Знакомства Кашары с мужчинами без регистрации бесплатно
Знакомства Кашары с женщинами кому за 45 без регистрации
Знакомства онлайн Кашары без регистрации бесплатно
Знакомства Кашары для брака без регистрации бесплатно
Знакомства Кашары с номерами телефонов без регистрации бесплатно
Знакомства Кашары бесплатно с телефонами и фото
Следующая запись: Оказалось, что маскировка Перри Утконоса реально работает - никто не узнал Ханка в Resident Evil ...
Лучшие публикации