Спрямування світла на чіп може дати роботам швидше оновлення для штучного інтелекту мозку
Дослідники Cornell Tech розробили приймач, який перезаписує пам'ять чіпа за допомогою спалахів світла замість електричних проводів, і в майбутньому це дозволить складським роботам оновлювати свої AI-моделі налету.
Ключові моменти
- Дослідники Cornell Tech представили приймач на основі світла на симпозіумі IEEE/JSAP з технології та схемотехніки VLSI минулого місяця.
- Пристрій перезаписує вбудовану пам'ять чіпа, спрямовуючи напозиціоване червоне світло подібне до QR-кодів прямо на світлочутливі клітини, виключаючи енергоємні схеми, необхідні традиційним оптичним системам.
- Незалежний експерт назвав цей підхід "кмітливим способом" вирішення однієї з найбільших вузьких місць у апаратному забезпеченні AI.
- Команда стверджує, що ця технологія могла б зменшити споживання енергії в дата-центрах, автомобілях з автономним керуванням та роботах з AI.
- Більш великі за стандартні комірки пам'яті залишаються ключовою перешкодою перед тим, як конструкція могла б з'явитися в комерційному апаратному забезпеченні.
Уявіть свого робота-помічника, якому потрібне оновлення програмного забезпечення. Зараз введення нових AI-інструкцій у чіп мозку робота означає переміщення даних по мідних дротах, що спалює енергію та сповільнює все. Команда Cornell Tech вважає, що світло може виконати цю роботу краще.
Постдокторант Yifan He та доцент Jae-sun Seo розробили приймач, який розташований всередині чіпа та перезаписує його власну пам'ять, коли його освітлює промінь світла. Промінь несе візерунок яскравих та темних квадратів, схожих на QR-код. Кожен квадрат вмикає або вимикає крихітну комірку пам'яті, кодуючи числа, звані параметрами, які повідомляють AI-моделі, як себе поводити.
Чому переміщення даних з дротами коштує так багато енергії?
Коротка відповідь: відстань і обсяг. AI-моделі — це величезні набори чисел. Вбудована пам'ять чіпа, звана SRAM (статична пам'ять випадкового доступу, швидкосховище, вбудоване в процесор), не може їх все утримати. Тож додаткові дані зберігаються в окремому, більшому сховищі під назвою DRAM (динамічна пам'ять випадкового доступу), пов'язаному металевими дротами. Переміщення чисел туди й назад через ці дроти споживає дивовижну кількість електроенергії й гірше стає, коли AI-системи зростають.
Оптичні канали, які передають дані як світло, а не електричний струм, можуть переносити більше даних з меншими втратами енергії. Але проблема в тому, що сучасні світлоприймальні схеми потребують енергоємних аналогових компонентів для перетворення світлових імпульсів на цифрові одиниці та нулі. Розробка Cornell повністю пропускає цей крок перетворення. Світло потрапляє на фотодіод — крихітний компонент, який перетворює світло в електричний струм, вбудований прямо в кожну комірку пам'яті. Цей струм змінює збережене значення комірки прямо з нуля на один. Жодного аналогового посередника не потрібно.
"Це одна з основних вузьких місць", — розповів Seo журналу IEEE Spectrum, який першим розповів про дослідження. Незалежний експерт Dennis Sylvester, голова кафедри електротехніки та комп'ютерної інженерії Мічиганського університету, назвав це "дійсно важливою проблемою" з "величезними комерційними наслідками".
Що це означає для роботів та повсякденних гаджетів?
Для складських роботів це означає швидший та дешевший спосіб надання оновлених AI-інструкцій кожній машині без підключення кожного пристрою до центрального сервера. Для крихітних мікророботів розміром з ніготь це в майбутньому могло б означати можливість мати корисний AI-інтелект без важкого апаратного забезпечення пам'яті, яке зараз робить це непрактичним.
Sylvester зауважує, що технологія далеко від полиць магазинів. Світлочутливі комірки пам'яті наразі більші за стандартні SRAM-комірки, тому чіп, що їх використовує, утримує меншу загальну пам'ять, що могло б анулювати економію енергії.
Команда Seo працює над зменшенням розмірів комірок шляхом оптимізації розмірів транзисторів. Вони також співпрацюють з оптичними групами для створення передавача, який може вмикати світловий візерунок мільйони разів на секунду, досягаючи швидкості гігабітів на секунду, потрібної реальним застосункам. Версія, яку He продемонстрував у лабораторії, видає один фіксований квадратний візерунок 14x14 через металевий трафарет.
Коли це могло б з'явитися у реальних товарах?
Три-п'ять років — чесне вікно для edge AI в цілому, за словами Sylvester. Проблема розміру комірки пам'яті означає, що ця конкретна технологія потребує подальшого розвитку, перш ніж вона зможе відповідати тому, що пропонують звичайні чіпи. Подумайте про нинішній прототип як про доказ того, що ідея працює, а не про товар, готовий до відправки.
