Trzy nowe modele AI od TII: Falcon-Emirati ma lepiej rozumieć lokalny dialekt
Podczas wydarzenia Ai Everything Abu Dhabi instytut Technology Innovation Institute (TII) z Abu Zabi zaprezentował trzy nowe modele sztucznej inteligencji wyspecjalizowane w pracy z językiem arabskim. Zestaw obejmuje model językowy Falcon-Emirati, system rozpoznawania mowy Falcon-ASR oraz narzędzie Falcon-OCR-Arabic, służące do odczytywania tekstu i układu dokumentów.
Głównym punktem premiery jest Falcon-Emirati – model liczący 7 mld parametrów, bazujący na architekturze Falcon-H1-Arabic. Został on dostrojony na materiałach w dialekcie emirackim, tekstach dotyczących kultury i dziedzictwa Zjednoczonych Emiratów Arabskich w standardowym arabskim oraz na danych syntetycznych, opracowanych z myślą o lokalnej specyfice językowej.
W benchmarku Alyah, który ocenia między innymi rozumienie języka potocznego, figuratywnych wyrażeń, poezji i wiedzy o lokalnym dziedzictwie, Falcon-Emirati uzyskał wynik 84,83 proc. Według danych instytutu jest to najwyższy rezultat spośród otwartych modeli arabskich i wielojęzycznych uwzględnionych w testach TII. Narzędzie ma być udostępnione użytkownikom poprzez platformę Falcon Chat.
Konieczność tworzenia wyspecjalizowanych modeli wynika ze słabej reprezentacji dialektów w zbiorach treningowych. Większość systemów uczy się przede wszystkim na współczesnym arabskim standardowym (MSA), używanym w mediach i oficjalnych publikacjach. W efekcie modele te mogą poprawnie rozpoznawać poszczególne słowa z codziennej mowy, lecz mają trudności z interpretacją idiomów, przysłów czy odniesień kulturowych.
Równolegle TII przedstawił model Falcon-ASR o wielkości 1,6 mld parametrów. System służy do transkrypcji mowy w języku arabskim (zarówno standardowym, jak i w dialekcie emirackim), a także po angielsku, francusku, hiszpańsku i portugalsku. Z testów przeprowadzonych przez instytut na nagraniach w dialekcie emirackim wynika, że Falcon-ASR osiągnął lepsze wyniki niż znacznie większy model multimodalny liczący 30 mld parametrów. Narzędzie potrafi przypisywać znaczniki czasu pojedynczym słowom, co ułatwia m.in. generowanie napisów i przeszukiwanie materiałów audio.
Trzecie z zaprezentowanych narzędzi, Falcon-OCR-Arabic, odpowiada za wyodrębnianie tekstu arabskiego oraz odtwarzanie struktury dokumentów z obrazów i skanów. Model radzi sobie z interpretacją tabel, formuł matematycznych oraz podziału tekstu na sekcje, co pozwala na automatyzację digitalizacji i budowanie przeszukiwalnych archiwów.
