{"id":4842,"date":"2023-04-13T20:40:18","date_gmt":"2023-04-13T18:40:18","guid":{"rendered":"https:\/\/ainachallenge.cat\/lab\/concurs\/?page_id=4842"},"modified":"2025-12-04T14:19:07","modified_gmt":"2025-12-04T12:19:07","slug":"desarrollar-herramientas-de-monitorizacion-control-y-alineacion-en-el-uso-de-modelos-y-aplicaciones-ia-tl-que-incorporen-el-catalan","status":"publish","type":"page","link":"https:\/\/ainachallenge.cat\/lab\/concurs\/desarrollar-herramientas-de-monitorizacion-control-y-alineacion-en-el-uso-de-modelos-y-aplicaciones-ia-tl-que-incorporen-el-catalan\/","title":{"rendered":"El “beta testing” y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorizaci\u00f3n, control y\/o alineaci\u00f3n en el uso de los modelos y aplicaciones de IA\/TL en catal\u00e1n."},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\tReto #2<\/span>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\tReto<\/span>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t#2<\/span>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

El “beta testing” y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorizaci\u00f3n, control y\/o alineaci\u00f3n en el uso de los modelos y aplicaciones de IA\/TL en catal\u00e1n.<\/h1>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\tDotaci\u00f3n econ\u00f3mica: 33.000 \u20ac por propuesta aceptada.
\nN\u00famero m\u00e1ximo de concursantes: 3<\/span>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Buscamos ideas para el Beta testing y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorizaci\u00f3n, control y alineaci\u00f3n en el uso de los modelos y\/o aplicaciones de IA\/TL en catal\u00e1n.<\/p>\n

Ser\u00e1n elegibles aquellas propuestas de demostradores que presenten soluciones a partir de sistemas existentes pero que no hayan hecho uso de Aina Kit, as\u00ed como propuestas para demostradores sin un sistema preexistente, siempre que sean operativos en un plazo m\u00e1ximo de 6 meses desde la firma del contrato.<\/p>\n

El Beta testing y el desarrollo del demostrador se centrar\u00e1n en la evaluaci\u00f3n del proceso de realizar la monitorizaci\u00f3n, control y\/o alineaci\u00f3n en el uso de los modelos y aplicaciones centrados en los recursos de Aina Kit como parte de la soluci\u00f3n, la comparativa de los resultados respecto de otras opciones y la identificaci\u00f3n de problemas en los recursos tecnol\u00f3gicos proporcionados, en su integraci\u00f3n en entornos reales (infraestructura de inferencia, integraci\u00f3n con datos, etc.) y\/o en la documentaci\u00f3n y el soporte proporcionados.<\/p>\n

Las propuestas tienen libertad para ampliar estos \u00e1mbitos b\u00e1sicos y proponer lo que consideren relevante para el Beta testing y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorizaci\u00f3n, control y\/o alineaci\u00f3n en el uso de los modelos y aplicaciones de IA\/TL en catal\u00e1n.<\/p>\n

Algunas ideas que pueden encajar en el Beta testing y los demostradores de este reto son:<\/p>\n

    \n
  • Sistemas de gobernanza de la IA\/TL en catal\u00e1n en el marco de una organizaci\u00f3n (p. ej.: en relaci\u00f3n con los valores de la organizaci\u00f3n, el tipo de lenguaje y tono comunicativo, las restricciones legales del sector, etc.).<\/li>\n
  • Sistemas para identificar y mitigar instrucciones maliciosas, datos sensibles, respuestas t\u00f3xicas y\/o sesgadas, alucinaciones, prevenci\u00f3n de intentos de evasi\u00f3n de restricciones, etc.<\/li>\n
  • Sistemas que permitan una IA interpretable y explicable.<\/li>\n
  • Sistemas para el cumplimiento de las normativas de IA\/TL aplicables.<\/li>\n
  • Desarrollo de entornos de sandboxing que den soporte a la IA\/TL en catal\u00e1n.<\/li>\n
  • Mecanismos de ciberseguridad para el despliegue de la IA\/TL en catal\u00e1n.<\/li>\n<\/ul>\n

    Se valorar\u00e1 positivamente el impacto social de las propuestas, la capacidad para desarrollar el Beta testing y los demostradores en entornos con un volumen alto de usuarios finales y la capacidad de acceder a datos en calidad y cantidad suficientes, siempre cumpliendo estrictamente las normativas de protecci\u00f3n de datos vigentes.<\/p>\n

    En este sentido, las propuestas podr\u00e1n presentar, junto con la memoria t\u00e9cnica, un compromiso de colaboraci\u00f3n en el desarrollo del demostrador por parte de una empresa o entidad usuaria final, concretando y explicando la participaci\u00f3n de esta empresa.<\/p>\n

    Se fomenta la creatividad y la innovaci\u00f3n en las actividades incluidas en el Beta testing, as\u00ed como en los \u00e1mbitos de desarrollo de demostradores que, mediante el uso de los recursos de Aina Kit, ejemplifiquen la monitorizaci\u00f3n, control y\/o alineaci\u00f3n en el uso de los modelos y aplicaciones de IA\/TL que incorporen el catal\u00e1n.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

    \n\t\t\t\t
    \n\t\t\t\t\t\r\n \r\n \r\n \r\n \r\n \r\n \r\n
    T\u00edtulo<\/th>\r\n Descripci\u00f3n<\/th>\r\n Empresa<\/th>\r\n <\/tr>\r\n <\/thead>\r\n
    Guardarrailes evaluaci\u00f3n propuesta_1<\/td>\r\n Sistema para monitorizar riesgos de fiabilidad en modelos de lenguaje en catal\u00e1n<\/td>\r\n Alinia AI Europe SL<\/td>\r\n <\/tr>\r\n
    IA Sociosanitaria evaluaci\u00f3n<\/td>\r\n Sistema para evaluar \u00e9ticamente asistentes virtuales en catal\u00e1n<\/td>\r\n Kloosiv Housing SCCL<\/td>\r\n <\/tr>\r\n
    IA4KIT EquiCAT<\/td>\r\n Cat\u00e1logo de prompts para detectar sesgos en modelos de IA en catal\u00e1n<\/td>\r\n Asociacion para el desarrollo de la Ingenier\u00eda del Conocimiento<\/td>\r\n <\/tr>\r\n <\/tbody>\r\n<\/table>\r\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t\t\t
    \n\t\t\t\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t\t\t
    \n\t\t\t
    <\/div>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t

    \u00a1Convocatoria abierta!<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>\n\t\t","protected":false},"excerpt":{"rendered":"

    Reto #2 Reto #2 Dotaci\u00f3n econ\u00f3mica: 33.000 \u20ac por propuesta aceptada. N\u00famero m\u00e1ximo de concursantes: 3 Buscamos ideas para el Beta testing y desarrollo de demostradores (mediante el uso de Aina Kit) de sistemas para la monitorizaci\u00f3n, control y alineaci\u00f3n en el uso de los modelos y\/o aplicaciones de IA\/TL en catal\u00e1n. Ser\u00e1n elegibles aquellas […]<\/p>\n","protected":false},"author":2,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-4842","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/pages\/4842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/comments?post=4842"}],"version-history":[{"count":50,"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/pages\/4842\/revisions"}],"predecessor-version":[{"id":8290,"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/pages\/4842\/revisions\/8290"}],"wp:attachment":[{"href":"https:\/\/ainachallenge.cat\/lab\/concurs\/wp-json\/wp\/v2\/media?parent=4842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}