A Liquid AI kis modellekkel vizsgálná az öregedés biológiáját
A Liquid AI bemutatta a LongevityBench tesztkészletet, amely nyelvi modelleket vizsgál öregedéshez és hosszú élettartamhoz kapcsolódó biológiai adatokon. A vállalat szerint két kisebb, erre a területre finomhangolt LFM2 modell több feladaton is felülmúlta a vizsgált nagyobb modelleket.
- A LongevityBench 17 feladatot és 25 457 promptot tartalmaz.
- A benchmark öt biológiai adattípust vizsgál, köztük klinikai, genetikai és proteomikai adatokat.
- Az LFM2-1.2B-Longevity és az LFM2-2.6B-Longevity elérhető a Hugging Face-en.
- Az LFM2-2.6B-Longevity több feladaton a vizsgált modellek élmezőnyében végzett.
- A kutatók azt is vizsgálták, mely mérési csoportok befolyásolják a modellek döntéseit.
Öt adattípuson vizsgálják a modelleket
A LongevityBench 17 feladatból és 25 457, öregedéskutatáshoz kapcsolódó promptból áll. A teszt öt biológiai adattípust fed le: az NHANES klinikai adatait, a GEO DNS-metilációs vizsgálatait, a GTEx génkifejeződési profiljait, három nyilvános Olink-vizsgálat plazma-proteomikai adatait, valamint az OpenGenes, a CellAge és a SynergyAge genetikai adatait.
A feladatok négyféle választ várnak: bináris osztályozást, páros összehasonlítást, többosztályos osztályozást vagy numerikus becslést. Egyes adatforrásokat több formában is felhasználnak. Ugyanazok az NHANES-adatok például alkalmasak két résztvevő életkorának összehasonlítására, életkorcsoport kijelölésére és a kronológiai életkor becslésére.
A különböző biológiai rekordokat strukturált szöveges formába alakították, így ugyanaz a nyelvi modell többféle adattípussal is dolgozhat. A tesztelési és tanítási feladatokat az alapul szolgáló biológiai adatok vagy vizsgálati elrendezés szintjén választották szét. A klinikai adatokat például felmérési hullám, a DNS-metilációs profilokat GEO-vizsgálat, a GTEx- és Olink-adatokat egyén, az OpenGenes rekordjait fehérjecsalád, a SynergyAge adatait pedig faj szerint osztották fel.
Két LFM2 modellt hangoltak öregedéskutatásra
A Liquid AI az LFM2-1.2B és az LFM2-2.6B modelleket öregedéssel kapcsolatos promptok többfeladatos gyűjteményén finomhangolta. A tanítás klinikai, epigenomikai, transzkriptomikai, proteomikai és genetikai adatokat, továbbá génekkel és öregedési órákkal kapcsolatos tudásfeladatokat tartalmazott.
Mindkét modell három tanítási korszakon ment át, 32 ezer tokenes kontextusablakkal. Modellméretenként három változatot készítettek: az egyik csak a hosszú élettartamhoz kapcsolódó adatokat kapta, a másikhoz 10 százalék általános csevegési adatot, a harmadikhoz pedig 20 százalékot kevertek. A vállalat szerint erre azért volt szükség, hogy megőrizzék az általános beszélgetési képességeket, és elkerüljék a túlzott alkalmazkodást a tesztfeladatok szerkezetéhez. Az azonos méretű változatokat végül azonos súlyú lineáris összevonással egyesítették.
A bemutatott eredmények egyetlen menetben, nulla példás kiértékeléssel készültek, bekapcsolt gondolkodási mód nélkül. A modellek LFM2-1.2B-Longevity és LFM2-2.6B-Longevity néven érhetők el a Hugging Face-en. A teljes módszertant, a benchmark eredményeit és a további elemzéseket a Cell Pressnél megjelent tanulmány ismerteti.
Több feladaton élre kerültek a kisebb modellek
A Liquid AI 18 élvonalbeli nyelvi modellel hasonlította össze a Longevity-LLM-eket. A vállalat közlése szerint a területre hangolt modellek gyakran elérték vagy meghaladták a jóval nagyobb modellek teljesítményét. A legjobb összesített helyezést az L-Qwen3.5-9B szerezte meg.
Az LFM2-2.6B-Longevity első lett az NHANES páros életkorfeladatán, amelyben a modellnek két résztvevő klinikai profilja alapján kellett kiválasztania az idősebb személyt. A maszkolt OpenGenes bináris osztályozási feladaton az LFM2-1.2B-Longevity és az LFM2-2.6B-Longevity végzett az első két helyen. A feladat azt vizsgálta, hogy egy gén kifejeződése növekszik vagy csökken az életkorral.
A GTEx többosztályos életkorcsoportosításában az LFM2-2.6B-Longevity második, az LFM2-1.2B-Longevity negyedik lett, és mindkettő megelőzte az értékelt élvonalbeli modelleket. Az LFM2-2.6B-Longevity a GEO páros életkorfeladatán is második helyet szerzett, az Olink proteomikai párosításán pedig mindkét LFM2 modell felülmúlta az összes vizsgált élvonalbeli modellt.
A teszt a modell döntéseire ható adatokat is vizsgálja
A kutatók azt is elemezték, milyen biológiai jellemzőkre támaszkodnak a modellek. Minden promptból eltávolítottak egy, biológiailag meghatározott mérési csoportot, miközben minden más változatlan maradt. Ezután összehasonlították a helyes és helytelen válaszhoz tartozó logitokat, és azt is megszámolták, hányszor változott a helyes válasz helytelenné.
A Liquid AI szerint mindkét LFM2 modell érzékeny volt a promptban szereplő biológiai információra. Egyes mérési csoportok eltávolítása csökkentette a helyes válasz iránti bizalmat, és bizonyos esetekben hibás előrejelzéshez vezetett. A hatás mértéke feladatonként változott. A vállalat hangsúlyozza, hogy ezek az eredmények a modell előrejelzéséhez társuló bemeneti jellemzőket azonosítják, és önmagukban nem bizonyítanak ok-okozati kapcsolatot a biológiában.
A LongevityBench így közös mérési keretet kínál az öregedéskutatásban használt modellek összehasonlítására, a két LFM2 modell pedig a Liquid AI szerint egy lépést jelenthet a hosszú élettartam kutatására specializált modellek felé.
