Dos renuncias y las advertencias de dos premios Nobel agregan condimento al desarrollo histórico de la IA que estamos transitando.
 |
| Hitzig y Sharma: dos renuncias que llamaron la atención |
Por Claudio Pairoba
Mrinank Sharma (jefe seguridad de Anthropic, la empresa desarrolladora de la IA Claude) renunció recientemente. En una carta que se hizo pública, Sharma comienza destacando los aspectos positivos de trabajar en la empresa y los aportes que pudo realizar. Entre ellos menciona conocer en mayor profundidad las causas de las sicofancias (cuando la IA da la respuesta que el usuario quiere escuchar), desarrollar y poner en funciones defensas en contra de los riesgos de bioterrorismo asistido por IA y escribir uno de los primeros reportes de seguridad para esta tecnología. También menciona un último proyecto para saber cómo los asistentes de IA podrían distorsionar nuestra humanidad.
Mrinank Sharma (jefe seguridad de Anthropic, la empresa desarrolladora de la IA Claude) renunció recientemente. En una carta que se hizo pública, Sharma comienza destacando los aspectos positivos de trabajar en la empresa y los aportes que pudo realizar. Entre ellos menciona conocer en mayor profundidad las causas de las sicofancias (cuando la IA da la respuesta que el usuario quiere escuchar), desarrollar y poner en funciones defensas en contra de los riesgos de bioterrorismo asistido por IA y escribir uno de los primeros reportes de seguridad para esta tecnología. También menciona un último proyecto para saber cómo los asistentes de IA podrían distorsionar nuestra humanidad.
