TEAL: การเรียนรู้เชิงรุกที่มีประสิทธิภาพในระดับโทเคนสำหรับการแบ่งส่วนความหมายแบบงบประมาณต่ำ

นักวิจัยจาก Apple (ร่วมกับ University of Waterloo) นำเสนอ TEAL ซึ่งเป็นกรอบการเรียนรู้เชิงรุกระดับพิกเซลกรอบแรกที่สร้างบนตัวแทน ViT ที่ถูกแช่แข็ง โดยเลือกผู้สมัครที่หลากหลายโดยตรงบนโครงข่ายโทเคนดั้งเดิมผ่านกลยุทธ์ MaxHerding สองระดับพร้อมการปรับแต่งความไม่แน่นอนตาม margin ด้วยพิกเซลที่มีป้ายกำกับเพียงหนึ่งพิกเซลต่อภาพ TEAL เอาชนะ baseline ที่แข็งแกร่งที่สุดได้ถึง +24.36 mIoU บน CamVid, Cityscapes, ADE20K และ Pascal Context โดยเข้าถึงประสิทธิภาพสูงถึง 97% ของการเรียนรู้แบบมีผู้สอนเต็มรูปแบบด้วยเพียง 10 px