El experto teme que las máquinas desarrollen un objetivo de autoconservación que las lleve a eliminar cualquier amenaza percibida. Y eso podría incluir a las personas.
Yoshua Bengio, destacado científico en el campo de la inteligencia artificial y uno de los pioneros del aprendizaje profundo (deep learning), expresó esta semana su inquietud acerca del potencial de una IA superinteligente.
Según el experto, si los desarrollos en esta tecnología llegan a ese punto, podrían representar un riesgo para la humanidad, al punto de destruirla.
Bengio cree que las máquinas no deben ser consideradas seres independientes, ya que esto podría llevar a situaciones peligrosas. En su opinión, es esencial que las IA se diseñen para ayudar a las personas y no para actuar de manera autónoma, sin supervisión.
Una de las mayores preocupaciones que Bengio ve es la posibilidad de que las máquinas superinteligentes desarrollen un objetivo de autoconservación que las lleve a eliminar cualquier amenaza percibida. Y eso podría incluir a los humanos. Y agregó que no es necesario alcanzar la superinteligencia, ya que la IA podría ser utilizada por actores malintencionados para manipular a las masas, socavar la democracia y establecer regímenes autoritarios.
Bengio notó que estamos avanzando hacia un futuro incierto en el desarrollo de IA y subraya que es crucial crear herramientas para asegurar que no se crucen límites peligrosos en este ámbito.
El científico ya había advertido en varias entrevistas la importancia de establecer límites éticos y regulaciones adecuadas en el desarrollo de estas tecnologías. Y sugiere que las empresas tecnológicas deberían ser responsables de garantizar la seguridad de sus herramientas y transparentar sus investigaciones.
Qué propone el “padre del deep learning” para mitigar los riesgos de la inteligencia artificial
Yoshua Bengio propuso varias medidas para mitigar los riesgos asociados con el desarrollo de inteligencia artificial (IA) superinteligente:
1. Desarrollo de sistemas de IA seguros
Bengio es parte del proyecto Safeguarded AI, financiado por el gobierno británico, cuyo objetivo es crear un sistema de inteligencia artificial capaz de verificar la seguridad de otros sistemas desplegados en áreas críticas. Este enfoque busca ofrecer garantías cuantitativas sobre el impacto real de los sistemas de IA en el mundo
2. Uso de IA para supervisar la inteligencia artificial
El experto sostiene que la única manera efectiva de garantizar la seguridad de sistemas avanzados es utilizar inteligencia artificial para supervisar y evaluar otros sistemas. Esto incluye la creación de una “IA guardiana” que pueda comprender y reducir los riesgos asociados con otros agentes autónomos, especialmente en sectores sensibles como el transporte y la energía
3. Análisis matemático y simulaciones
El proyecto propone complementar las pruebas humanas con análisis matemáticos que evalúen el potencial daño de los nuevos sistemas. Esto incluye simulaciones del mundo real y explicaciones del funcionamiento interno de la IA, lo que permitiría a los humanos verificar la validez de las comprobaciones de seguridad realizadas por las máquinas
4. Colaboración internacional
Bengio también aboga por fomentar la colaboración internacional en materia de seguridad en IA, qué se involucren múltiples países y organizaciones, como la ONU y la UE. Este enfoque busca establecer un marco común para abordar los riesgos existenciales que plantea la IA
5. Regulación y Debate Global
El experto enfatizó la necesidad de llevar el debate sobre los riesgos asociados con la IA a un conjunto más amplio de actores globales, y promover una regulación adecuada que asegure el desarrollo responsable y seguro de estas tecnologías
Quién es Yoshua Bengio, el “padre del deep learning”
Yoshua Bengio, París en 1964 y nacionalizado canadiense, es profesor en la Universidad de Montreal y director científico del Instituto de Algoritmos de Aprendizaje de Montreal (MILA). Su trabajo fue crucial para avances en áreas como el procesamiento del lenguaje natural a través de computadoras.
Junto a Geoffrey Hinton y Yann LeCun, es considerado uno de los “padres” del aprendizaje profundo, por sus contribuciones a la inteligencia artificial, que le valieron el Premio Turing en 2018 y el Premio Princesa de Asturias en 2022.
