viernes, 30 de octubre de 202623°General Pico · 10° / 25°Dólar Oficial $1.560Dólar Blue $1.565Dólar MEP $1.568Dólar Tarjeta $2.028
Anthropic presenta su salida a bolsa entre advertencias sobre riesgos y un relato de ciencia ficción
El prospecto de la oferta pública inicial de Anthropic dedica buena parte de sus páginas a los riesgos de su tecnología. Una columna de MIT Technology Review cuestiona cómo la empresa presenta su propia imagen.
Redacción PicoTecno
2 min de lectura
(Department for Science, Innovation and Technology / Wikimedia Commons · CC BY 2.0)
Según informó MIT Technology Review, la empresa de inteligencia artificial Anthropic presentó su prospecto para salir a bolsa mediante una oferta pública inicial de acciones (IPO, por sus siglas en inglés). El documento tiene 335 páginas, de las cuales alrededor de 100 se dedican a los riesgos del negocio y de la tecnología.
En ese apartado, la compañía reconoce que sus desarrollos podrían afectar la confianza social, dañar a la sociedad y desestabilizar el orden geopolítico. También menciona la posibilidad de que, si las cosas no salen como se planea, representen riesgos catastróficos o existenciales para la humanidad. Al mismo tiempo, el texto invita a los futuros accionistas a ver la compra como una forma de participar en algo más grande que una inversión.
La columna recuerda que Anthropic ya venía trabajando su discurso público. Jack Clark, cofundador y responsable de políticas de la empresa, sostuvo en una charla en una reunión del Fondo Monetario Internacional, en Bangkok, que la singularidad tecnológica ya había comenzado. El concepto, popularizado por el escritor de ciencia ficción Vernor Vinge hace unos 40 años, describe el momento en que la tecnología supera de forma tan amplia a sus creadores que estos dejan de poder comprenderla o competir con ella.
Otro ejemplo citado es la intervención de Chris Olah, también cofundador de la compañía, ante el Vaticano el año pasado. Allí habló de hallazgos que, según él, sugieren la existencia de estados internos similares a la alegría, la tristeza o el miedo en sus modelos. La autora señala que muchos investigadores serían escépticos frente a esa idea. Incluso el prospecto incluye la cuestión como un posible riesgo para el negocio, ya que la empresa advierte que el debate sobre la sensibilidad y el estatus moral de sus modelos podría atraer más escrutinio y llevarla a adoptar restricciones que limiten sus productos.
La columna también repasa la polémica que se originó en X a partir de un cuestionamiento de Nathan Calvin, director de estrategia de Encode AI, una organización con sede en Washington que impulsa regulaciones. Calvin criticó un proyecto de ley que Anthropic habría hecho circular en secreto entre legisladores estadounidenses y que luego se filtró. Según el texto, el propio Dario Amodei, director ejecutivo de la empresa, respondió que su estrategia consiste en demostrar que es posible desarrollar la tecnología de manera responsable para elevar el estándar de toda la industria, y reconoció que la compañía cometió errores.
Para la autora, la empresa puede verse como una compañía con un valor en bolsa superior a los 1.500 millones de millones de dólares, como una organización dedicada a la seguridad en IA o como un grupo que busca ser el primero en crear sistemas con capacidades superiores a las humanas. Según la columna, las tensiones entre esos roles son reales, y el relato que la empresa construye sobre sí misma dificulta evaluar cuánto confiar en ella.
