Розуміння великих мовних моделей: майбутнє штучного інтелекту - Юрчак, Ірина; Хіч, Андрій; Оксентюк, Віра; Yurchak, Iryna; Khich, Andrii; Oksentyuk, Vira (Видавництво Львівської політехніки, 2024)
У статті висвітлено дослідження новітнього напряму в штучному інтелекті – великих мовних моделей, які відкривають нову еру в обробленні природної мови, умож- ливлюючи створення гнучкіших і адаптивніших систем. За їх допомогою досягається високий рівень розуміння контексту, що збагачує досвід користувачів та розширює сфери засто- сування штучного інтелекту. Великі мовні моделі мають величезний потенціал для пере- осмислення взаємодії людини із технологіями та зміни уявлення про машинне навчання. Здійснено огляд історичного розвитку великих мовних моделей, вказано компанії-лідери, що займаються науковими дослідженнями та розробленням ефективних систем. Надано інфор- мацію щодо внутрішнього устрою та подання знань у моделях. Висвітлено основні принципи навчання: збирання даних та їх попереднє оброблення, вибір доцільної нейромережевої архітектури, що використовується у великих мовних моделях. Зазначено, що найбільшого прогресу досягнуто із застосуванням нейронної мережі Трансформер, що ґрунтується на механізмі уваги. Висвітлено кроки, що істотно сприяють навчанню, постнавчанню, оптимі- зації швидкості навчання. Для оцінювання ефективності та якості мовних моделей вико- ристовують різні метрики, які залежать від вирішуваного завдання. Однак, незважаючи на переваги, великі мовні моделі не позбавлені проблем. Можливість генерації недостовірної інформації, вигаданих фактів та неетичних реплік – виклик для дослідників та розробників. Важливо продовжувати роботу над підвищенням відповідальності моделей, розробляти ефективні методи фільтрації контенту та вдосконалювати механізми навчання. Розуміння цих проблем та пошук їх рішень є ключовими кроками на шляху до створення ефективніших та надійніших великих мовних моделей. Відкритість, колективна участь та діалог між сус- пільством, науковою спільнотою та розробниками стають невід’ємною частиною забезпе- чення сталого розвитку цієї технології.

The article examines the newest direction in artificial intelligence – Large Language Models, which open a new era in natural language processing, providing the opportunity to create more flexible and adaptive systems. With their help, a high level of understanding of the context is achieved, which enriches the user experience and expands the fields of application of artificial intelligence. Large language models have enormous potential to redefine human interaction with technology and change the way we think about machine learning. An overview of the historical development of large language models is carried out, leading companies engaged in scientific research and development of effective systems are indicated. Information is provided regarding the internal structure and representation of knowledge in models. The main principles of learning are highlighted: data collection and their pre-processing, selection of an appropriate neural network architecture used in large language models. It is noted that the greatest progress has been achieved using the Transformer neural network, which is based on the mechanism of attention. The steps that significantly contribute to training, post-training, and optimizing the speed of training are highlighted. To evaluate the effectiveness and quality of language models, various metrics are used, which depend on the task to be solved. However, despite their advantages, large language models today are not without problems. The possibility of generating false information, fabricated facts, and unethical remarks presents a challenge for researchers and developers. It is important to continue work on increasing the responsibility of models, develop effective content filtering methods, and improve learning mechanisms. Understanding these problems and finding solutions to them are key steps towards building more efficient and reliable large language models. Openness, collective participation and dialogue between society, the scientific community and developers are becoming an integral part of ensuring the sustainable development of this technology.
Understanding large language models: the future of artificial intelligence
Keywords: великі мовні моделі; машинне навчання; глибоке навчання; набір даних; нейронна мережа Трансформер; інженерія запитів; промпт; large language models; machine learning; deep learning; data set; transformer neural network; prompt engineering