{"id":14767,"date":"2023-06-17T11:41:00","date_gmt":"2023-06-17T09:41:00","guid":{"rendered":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/?p=14767"},"modified":"2023-06-14T17:01:27","modified_gmt":"2023-06-14T15:01:27","slug":"soy-responsable-de-etica-para-la-ia-me-aseguro-de-que-la-tecnologia-se-despliega-de-forma-segura-en-el-mundo-pero-no-soy-un-oraculo","status":"publish","type":"post","link":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/soy-responsable-de-etica-para-la-ia-me-aseguro-de-que-la-tecnologia-se-despliega-de-forma-segura-en-el-mundo-pero-no-soy-un-oraculo\/","title":{"rendered":"Soy responsable de \u00e9tica para la IA: me aseguro de que la tecnolog\u00eda se despliega de forma segura en el mundo, pero no soy un or\u00e1culo"},"content":{"rendered":"
\"\"<\/a><\/div>

Soy experta en \u00e9tica de la IA y mi trabajo consiste en que esta tecnolog\u00eda se despliega de forma segura en el mundo.<\/p>\n

Pero no nos enga\u00f1emos: no soy ning\u00fan or\u00e1culo.\u00a0<\/strong><\/p>\n

Mi trabajo podr\u00eda resumirse en que planteo retos \u00e9ticos, pol\u00edticos y de derecho para establecer el marco en el que impulsar la IA<\/strong> dentro de Hugging Face y por extensi\u00f3n al resto del p\u00fablico. La pregunta principal que impulsa mi trabajo es: \u00bfc\u00f3mo puede la gente utilizar la IA para el bien?<\/p>\n

Antes trabajaba como asesora pol\u00edtica del Parlamento Europeo en temas de derechos humanos<\/strong>, pero lo dej\u00e9 para cursar un m\u00e1ster en Filosof\u00eda Pol\u00edtica y \u00c9tica en la Universidad de la Sorbona y, m\u00e1s tarde, me saqu\u00e9 el doctorado en Filosof\u00eda en la misma universidad, donde ahora estoy terminando mi tesis sobre la \u00e9tica de la IA conversacional.<\/p>\n

Una vez finalizado el m\u00e1ster, trabaj\u00e9 en una empresa de chatbot con sede en Par\u00eds, donde colabor\u00e9 como experta en \u00e9tica<\/strong> con dise\u00f1adores e ingenieros de aprendizaje autom\u00e1tico en investigaci\u00f3n \u00e9tica aplicada.<\/p>\n

M\u00e1s tarde entr\u00e9 en BigScience<\/a>, un proyecto que forma parte de Hugging Face, una plataforma de recursos de IA y aprendizaje autom\u00e1tico de c\u00f3digo abierto, para hacer p\u00fablico el modelo de lenguaje GPT.<\/a><\/p>\n

Primero me puse en contacto con Hugging Face<\/a> para saber c\u00f3mo pod\u00eda ayudar a construir Bloom<\/a>, su gran modelo ling\u00fc\u00edstico. Colabor\u00e9 con la empresa como parte de su grupo de trabajo jur\u00eddico y \u00e9tico, y 3 meses despu\u00e9s, en mayo de 2022, me contrataron como su principal responsable de \u00e9tica. <\/strong>Trabajo all\u00ed desde entonces.<\/p>\n

El 60% de mi tiempo lo dedico a investigar<\/strong>, lo que incluye leer art\u00edculos acad\u00e9micos sobre \u00e9tica y estudios t\u00e9cnicos de IA, as\u00ed como publicar mis propias investigaciones sobre temas como los estatutos y las directrices \u00e9ticas para las empresas. El resto lo dedico a colaboraciones y a la redacci\u00f3n de informes sobre los proyectos internos.<\/p>\n

Formo parte de un equipo llamado ML and Society formado por varios investigadores cient\u00edficos, un asesor jur\u00eddico y un director de pol\u00edticas. Nos reunimos una vez a la semana para investigar y debatir las tensiones de la IA<\/strong>, como los sesgos en los modelos, las aplicaciones seguras de la IA y las pol\u00edticas p\u00fablicas.<\/p>\n

Tambi\u00e9n proporciono asesoramiento \u00e9tico y orientaci\u00f3n para proyectos externos.<\/strong> Uno de ellos ha sido llevar Stable Diffusion a nuestra plataforma<\/a> e investigar c\u00f3mo desplegar de forma segura la IA en el espacio sanitario.<\/p>\n

A primera hora de la ma\u00f1ana, dedico entre 30 y 45 minutos a comprobar los \u00faltimos informes de moderaci\u00f3n de contenidos de Hugging Face. Despu\u00e9s, investigo o trabajo en nuevos documentos hasta la hora de comer.<\/p>\n

Hacia el mediod\u00eda, ayudo a mis colegas en proyectos espec\u00edficos, como la actualizaci\u00f3n de la pol\u00edtica de moderaci\u00f3n de contenidos de nuestra compa\u00f1\u00eda<\/a>. Hace poco asesor\u00e9 a un cliente del sector sanitario sobre c\u00f3mo desplegar la IA de forma \u00e9tica, haci\u00e9ndole preguntas orientativas, por ejemplo, si ten\u00eda las licencias adecuadas o si har\u00e1 p\u00fablicos sus modelos.<\/p>\n

Algunos d\u00edas me encargo de resolver situaciones urgentes en la plataforma, como discusiones tensas entre usuarios o casos de IA que han causado problemas, mientras que el resto del d\u00eda lo dedico a la investigaci\u00f3n.<\/p>\n

El principal reto al que me enfrento es que la gente me ve como una polic\u00eda moral que tiene el poder de determinar lo que est\u00e1 bien y lo que est\u00e1 mal<\/strong>. Esta percepci\u00f3n puede ser peligrosa porque no tengo todas las respuestas y hay cuestiones muy complicadas de resolver \u00e9ticamente. Cuanto m\u00e1s estudio la \u00e9tica, menos segura estoy de lo que s\u00e9.<\/p>\n

Por ejemplo, un periodista acus\u00f3 a Hugging Face de que el modelo ling\u00fc\u00edstico de la empresa hab\u00eda plagiado uno de sus art\u00edculos. Por supuesto, estuve encantada de ayudar, pero es una situaci\u00f3n delicada de abordar.<\/p>\n

Tampoco es justo que nos pongan en un aprieto cada vez que pasa algo malo. No hay m\u00e1s que ver c\u00f3mo han tratado las grandes empresas tecnol\u00f3gicas a sus especialistas en \u00e9tica<\/strong>: ha sido una carnicer\u00eda.<\/a><\/p>\n

Los fil\u00f3sofos \u2014y, en general, todas las humanidades\u2014 son muy necesarios a medida que avanza la inteligencia artificial.<\/a> Los responsables de \u00e9tica plantean situaciones complicadas que rodean a nuestra humanidad<\/strong> y que pueden ponerla en peligro.<\/p>\n

Tambi\u00e9n ayudan a proyectar \u2014no a predecir\u2014 un futuro ideal para la sociedad, de modo que est\u00e9 m\u00e1s cerca de la utop\u00eda que de la distop\u00eda. Por eso espero que la comunidad tecnol\u00f3gica se tome m\u00e1s en serio el papel de los especialistas en \u00e9tica de la IA<\/strong>.<\/p>\n

Aaron Mok, Business Insider<\/a><\/div>\n
\"LucusHost,<\/a><\/div>","protected":false},"excerpt":{"rendered":"

Soy experta en \u00e9tica de la IA y mi trabajo consiste en que esta tecnolog\u00eda se despliega de forma segura en el mundo. Pero no nos enga\u00f1emos: no soy ning\u00fan… <\/p>\n","protected":false},"author":1,"featured_media":14768,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[8],"tags":[15,14],"class_list":["post-14767","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-vida-social","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-content\/uploads\/sites\/2\/2023\/06\/soca-tira.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/posts\/14767","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/comments?post=14767"}],"version-history":[{"count":1,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/posts\/14767\/revisions"}],"predecessor-version":[{"id":14769,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/posts\/14767\/revisions\/14769"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/media\/14768"}],"wp:attachment":[{"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/media?parent=14767"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/categories?post=14767"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teletrabajoynegocios.com\/telesecretarias\/wp-json\/wp\/v2\/tags?post=14767"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}