Синтез нейроелементів і нейромереж реального часу паралельно-вертикального типу - Скорохода, Олекса Володимирович (Національний університет "Львівська політехніка", 2013)
Дисертаційна робота присвячена розробленню моделей формального нейрона, вдосконаленню методу синтезу та створенню нейромереж реального часу паралельно-вертикального типу з високою ефективністю використання обладнання. Розроблено метод паралельно-вертикального опрацювання даних у нейромережах (нейроелементах), який забезпечує зменшення кількості виводів інтерфейсу, розрядності міжнейронних зв’язків і витрат обладнання та підвищує швидкодію обчислень. Створено три моделі формального нейрона паралельно-вертикального типу, особливістю яких є порозрядне надходження та опрацювання вхідних даних і вагових коефіцієнтів, таблична реалізація функції активації і порозрядне формування результату, що забезпечило орієнтацію моделей на НВІС-реалізацію та адаптацію нейрона до вимог конкретного застосування. Вдосконалено метод синтезу нейромереж реального часу паралельно-вертикального типу, за яким, із врахуванням засобів реалізації, вимог конкретних застосувань та інтенсивності надходження вхідних даних і вагових коефіцієнтів, можна синтезувати апаратні нейромережі з високою ефективністю використання обладнання. Диссертационная работа посвящена разработке моделей формального нейрона, совершенствованию метода синтеза и созданию нейросетей реального времени параллельно-вертикального типа с высокой эффективностью использования оборудования. Рассмотрены области применения и задачи нейросетевых технологий. Показано, что значительная часть приложений требует обработки интенсивных потоков данных в реальном времени средствами, которые удовлетворяют ограничениям по габаритам, энергопотреблению и стоимости. Проанализированы программные, микропрограммные и аппаратные средства реализации нейросетей. Выявлено, что обеспечение режима реального времени требует значительных затрат оборудования, стоимости и сроков разработки. Существующие программные и микропрограммные средства не учитывают требования конкретных применений по габаритам и потребляемой мощности, а аппаратные средства имеют низкую эффективность использования оборудования. Установлено, что все виды реализации нейроалгоритмов в непосредственном виде встречаются довольно редко. Для реализации нейросетей реального времени целесообразно использовать комбинированные подходы с преобладанием аппаратных средств, реализующих распараллеливания вычисления не только во времени, но и в пространстве. Такие вычисления характеризуются введением дополнительного оборудования и отсутствием промежуточных пересылок информации в процессе вычисления, а также аппаратным управлением. Предложено для обеспечения высокого быстродействия нейроэлементов и нейросетей при СБИС-реализации и уменьшения количества выводов интерфейса обработку данных осуществлять параллельно разрядными срезами (вертикально) на основе многооперандного подхода, т.е. параллельно-вертикально. Разработан метод параллельно-вертикальной обработки данных в нейросетях (нейроелэментах), который благодаря использованию многооперандного подхода, поразрядного поступления данных и совмещения процессов поступления данных с выполнением вычислений обеспечивает уменьшение количества выводов интерфейса, разрядности межнейронных связей и затрат оборудования и повышает быстродействие вычислений. Проанализировано существующие модели нейронов и показано, что они не ориентированы на СБИС-реализацию, поскольку не основаны на элементарных арифметических операциях и требуют значительного количества выводов. Разработаны три модели формального нейрона параллельно-вертикального типа, особенностью которых является поразрядное поступления и обработка входных данных и весовых коэффициентов, табличная реализация функции активации и поразрядное формирования результата, что обеспечило ориентацию моделей на СБИС-реализацию и адаптацию нейрона к требованиям конкретного применения. Синтезированы ориентированные на СБИС-реализацию нейроэлементы параллельно-вертикального типа, в которых благодаря согласованию и совмещению процессов параллельно-поразрядного поступления и обработки входных данных и весовых коэффициентов обеспечено высокую эффективность использования оборудования. Усовершенствован метод синтеза нейросетей реального времени параллельно-вертикального типа, по которому, с учетом средств реализации, требований конкретных приложений и интенсивности поступления входных данных и весовых коэффициентов, можно синтезировать аппаратные нейросети с высокой эффективностью использования оборудования. The thesis is devoted to development of a formal neuron models, improving the method of synthesis and creation of parallel-vertical real-time neural networks with high efficiency of equipment use. The method of parallel-vertical data processing in neural networks (neural elements) have been developed, which provides reduction of interface pins’ amount, interneuronal connections’ bit capacity and equipment costs and enhances computing performance. Three parallel-vertical formal neuron models have been created. Peculiarity of these mod-els are bitwise receipting and processing of input data and weight coefficients, tabular realization of activation function and bitwise formation of results, which provided orientation of models for VLSI-implementation and adaptation of the neuron to the requirements of the particular application. The method of synthesis of parallel-vertical real-time neural networks have been improved, by which, taking into account the means of implementation, the requirements of specific applications and intensity of input data and weight coefficients receipt, hardware neural network with high efficiency of equipment use can be synthesized.
Синтез нейроэлементов и нейросетей реального времени параллельно-вертикального типа
Synthesis of parallel-vertical real-time neural elements and neural networks
Keywords: нейромережа; нейроелемент; синтез; паралельно-вертикальне опрацювання даних; надвеликі інтегральні схеми; реальний час; нейросеть; нейроэлемент; синтез; параллельно-вертикальная обработка данных; сверхбольшие интегральные схемы; реальное время; neural network; neural element; synthesis; parallel-vertical data processing; very large scale integrated circuits; real time