En un nuevo estudio, científicos de Google eliminaron una importante "medida de protección de la consciencia" de la IA
Un nuevo estudio revela que eliminar las medidas de seguridad que impiden que la inteligencia artificial (IA) afirme ser consciente también la hace más propensa a creer en vampiros, karma y fantasmas. Sin embargo, los expertos advierten que la falta de consciencia podría tener preocupantes consecuencias.
En una investigación publicada el 30 de julio los científicos investigaron el impacto de la "dirección de la conciencia", una medida de ajuste fino de la IA que influye en un modelo para que muestre o reprima afirmaciones de autoconciencia. Esta medida y otros controles de seguridad han sido ampliamente adoptados por las empresas de IA que buscan evitar que sus modelos afirmen ser conscientes.












