Архив рубрики: Криптовалюты

Обзор криптовалют, тренды, финтех, бизнес.

Что такое искусственный интеллект и как он работает? Применение и перспективы ИИ

Искусственный интеллект – это технология, а точнее направление современной науки, которое изучает способы обучить компьютер, роботизированную технику, аналитическую систему разумно мыслить также как человек. Собственно мечта об интеллектуальных роботах-помощниках возникла задолго до изобретения первых компьютеров. Читать

Что такое нейронные сети и как они работают? Классификация искусственных нейросетей


Нейронная сеть – одно из направлений искусственного интеллекта, цель которого смоделировать аналитические механизмы, осуществляемые человеческим мозгом. Задачи, которые решает типичная нейросеть – классификация, предсказание и распознавание. Нейросети способны самостоятельно обучаться и развиваться, строя свой опыт на совершенных ошибках.

Нейросети — это последовательность нейронов, соединенных между собой синапсами. Структура нейронной сети пришла в мир программирования прямиком из биологии. Благодаря такой структуре, машина обретает способность анализировать и даже запоминать различную информацию. Также нейронные сети способны не только анализировать входящую информацию, но и воспроизводить ее из своей памяти.

Другими словами, нейросеть это машинная интерпретация мозга человека, в котором находятся миллионы нейронов передающих информацию в виде электрических импульсов.

История создания нейронных сетей

Какова же история развития нейронных сетей в науке и технике? Она берет свое начало с появлением первых компьютеров или ЭВМ (электронно-вычислительная машина) как их называли в те времена. Так еще в конце 1940-х годов некто Дональд Хебб разработал механизм нейронной сети, чем заложил правила обучения ЭВМ, этих «протокомпьютеров».

Дальнейшая хронология событий была следующей:

  • В 1954 году происходит первое практическое использование нейронных сетей в работе ЭВМ.
  • В 1958 году Франком Розенблатом разработан алгоритм распознавания образов и математическая аннотация к нему.
  • В 1960-х годах интерес к разработке нейронных сетей несколько угас из-за слабых мощностей компьютеров того времени.
  • И снова возродился уже в 1980-х годах, именно в этот период появляется система с механизмом обратной связи, разрабатываются алгоритмы самообучения.
  • К 2000 году мощности компьютеров выросли настолько, что смогли воплотить самые смелые мечты ученых прошлого. В это время появляются программы распознавания голоса, компьютерного зрения и многое другое.

GeekUniversity совместно с Mail.ru Group открыли первый в России факультет Искусственного интеллекта преподающий нейронные сети. Для учебы достаточно школьных знаний. Программа включает в себя все необходимые ресурсы и инструменты + целая программа по высшей математике. Не абстрактная, как в обычных вузах, а построенная на практике. Обучение познакомит вас с технологиями машинного обучения и нейронными сетями, научит решать настоящие бизнес-задачи.

Образование по искусственному интеллекту

Как работают нейронные сети?

Искусственная нейронная сеть — совокупность нейронов, взаимодействующих друг с другом. Они способны принимать, обрабатывать и создавать данные. Это настолько же сложно представить, как и работу человеческого мозга. Нейронная сеть в нашем мозгу работает для того, чтобы вы сейчас могли это прочитать: наши нейроны распознают буквы и складывают их в слова.

Как работает нейросеть

Нейронная сеть включает в себя несколько слоёв нейронов, каждый из которых отвечает за распознавание конкретного критерия: формы, цвета, размера, текстуры, звука, громкости и т.д.

Год от года в результате миллионов экспериментов и тонн вычислений к простейшей сети добавлялись новые и новые слои нейронов. Они работают по очереди. Например, первый определяет, квадрат или не квадрат, второй понимает, квадрат красный или нет, третий вычисляет размер квадрата и так далее. Не квадраты, не красные и неподходящего размера фигуры попадают в новые группы нейронов и исследуются уже ими.

Для чего нужны нейросети?

Нейронные сети используются для решения сложных задач, которые требуют аналитических вычислений подобных тем, что делает человеческий мозг. Самыми распространенными применениями нейронных сетей является:

  • Классификация — распределение данных по параметрам. Например, на вход дается набор людей и нужно решить, кому из них давать кредит, а кому нет. Эту работу может сделать нейронная сеть, анализируя такую информацию как: возраст, платежеспособность, кредитная история и тд.
  • Предсказание — возможность предсказывать следующий шаг. Например, рост или падение акций, основываясь на ситуации на фондовом рынке.
  • Распознавание — в настоящее время, самое широкое применение нейронных сетей. Используется в Google, когда вы ищете фото или в камерах телефонов, когда оно определяет положение вашего лица и выделяет его и многое другое.

Область применения искусственных нейронных сетей с каждым годом все более расширяется, на сегодняшний день они используются в таких сферах как:

  • Машинное обучение (machine learning), представляющее собой разновидность искусственного интеллекта. В основе его лежит обучение ИИ на примере миллионов однотипных задач. В наше время машинное обучение активно внедряют поисковые системы Гугл, Яндекс, Бинг, Байду. Так на основе миллионов поисковых запросов, которые все мы каждый день вводим в Гугле, их алгоритмы учатся показывать нам наиболее релевантную выдачу, чтобы мы могли найти именно то, что ищем.
  • В роботехнике нейронные сети используются в выработке многочисленных алгоритмов для железных «мозгов» роботов.
  • Архитекторы компьютерных систем пользуются нейронными сетями для решения проблемы параллельных вычислений.
  • С помощью нейронных сетей математики могут разрешать разные сложные математические задачи.

Теперь, чтобы понять, как же работают нейронные сети, давайте взглянем на ее составляющие и их параметры.

Что такое нейрон?

Нейрон — это вычислительная единица, которая получает информацию, производит над ней простые вычисления и передает ее дальше. Они делятся на три основных типа: входной (синий), скрытый (красный) и выходной (зеленый):

Нейроны

Также есть нейрон смещения и контекстный нейрон. В том случае, когда нейросеть состоит из большого количества нейронов, вводят термин слоя. Соответственно, есть входной слой, который получает информацию, n скрытых слоев (обычно их не больше 3), которые ее обрабатывают и выходной слой, который выводит результат.

У каждого из нейронов есть 2 основных параметра:

  • входные данные (input data),
  • выходные данные (output data).

В случае входного нейрона: input=output. В остальных, в поле input попадает суммарная информация всех нейронов с предыдущего слоя, после чего, она нормализуется, с помощью функции активации (пока что просто представим ее f(x)) и попадает в поле output.

Входные и выходные данные нейрона

Важно помнить, что нейроны оперируют числами в диапазоне [0,1] или [-1,1]. А как же, вы спросите, тогда обрабатывать числа, которые выходят из данного диапазона? На данном этапе, самый простой ответ — это разделить 1 на это число. Этот процесс называется нормализацией, и он очень часто используется в нейронных сетях. Подробнее об этом чуть позже.

Что такое синапс?

Синапс это связь между двумя нейронами. У синапсов есть 1 параметр — вес. Благодаря ему, входная информация изменяется, когда передается от одного нейрона к другому. Допустим, есть 3 нейрона, которые передают информацию следующему. Тогда у нас есть 3 веса, соответствующие каждому из этих нейронов. У того нейрона, у которого вес будет больше, та информация и будет доминирующей в следующем нейроне (пример — смешение цветов).

Синапс - связь между двумя нейронами

На самом деле, совокупность весов нейронной сети или матрица весов — это своеобразный мозг всей системы. Именно благодаря этим весам, входная информация обрабатывается и превращается в результат.

Важно помнить, что во время инициализации нейронной сети, веса расставляются в случайном порядке.

Биологическая основа нейросвязей

В нашем мозге есть нейроны. Их около 86 миллиардов. Нейрон это клетка, соединенная с другими такими клетками. Клетки соединены друг с другом отростками. Всё это вместе напоминает своего рода сеть. Вот вам и нейронная сеть. Каждая клетка получает сигналы от других клеток. Далее обрабатывает их и сама отправляет сигнал другим клеткам.

Проще говоря нейрон получает сигнал (информацию), обрабатывает его (что то там решает, думает) и отправляет свой ответ дальше. Стрелки изображают связи-отростки по которым передается информация:

Нейронные связи

Вот так передавая друг другу сигналы, нейронная сеть приходит к какому либо решению. А мы то думали, что мы единолично все решаем! Нет, наше решение — это результат коллективной работы миллиарда нейронов.

На моей картинке стрелки обозначают связи нейронов. Связи бывают разные. Например стрелка внизу между нейроном 2 и 5 длинная. И значит сигнал от нейрона 2 до нейрона 5 будет дольше идти, чем например сигнал от нейрона 3 где стрелка вдвое короче. Да и вообще сигнал может затухнуть и прийти слабым. В биологии много всего интересного.

Но рассматривать всё это — как там думает нейрон, затухнет ли сигнал, когда он придет или не придет в IT не стали. А что голову морочить? И просто построили упрощенную модель.

В этой модели можно выделить две основные составляющие:

  • Алгоритм. В биологии нейрон думает. В программировании «думанье» заменяется алгоритмом — то есть набором команд. Например — если на вход пришла 1 отправь 0. Вот и все «мозги» нашего нейрона.
  • Вес решения. Все связи, затухания и т.д. решили заменить «весом». Вес это как сила решения, его важность. Это просто величина, чаще число. Нашему нейрону приходит решение с определенным весом, нашему нейрону приходит число. И если оно больше другого пришедшего числа то оно важнее. Это как пример.

Итого: есть алгоритм и есть вес решения. Это всё что нужно для построения простейшей нейросети.

Искусственная нейронная сеть

Нейронная сеть — попытка с помощью математических моделей воспроизвести работу человеческого мозга для создания машин, обладающих искусственным интеллектом.

Искусственная нейронная сеть обычно обучается с учителем. Это означает наличие обучающего набора (датасета), который содержит примеры с истинными значениями: тегами, классами, показателями.

Например, если вы хотите создать нейросеть для оценки тональности текста, датасетом будет список предложений с соответствующими каждому эмоциональными оценками. Тональность текста определяют признаки (слова, фразы, структура предложения), которые придают негативную или позитивную окраску. Веса признаков в итоговой оценке тональности текста (позитивный, негативный, нейтральный) зависят от математической функции, которая вычисляется во время обучения нейронной сети.

Раньше люди генерировали признаки вручную. Чем больше признаков и точнее подобраны веса, тем точнее ответ. Нейронная сеть автоматизировала этот процесс:

Искусственная нейронная сеть

Искусственная нейронная сеть состоит из трех компонентов:

  • Входной слой;
  • Скрытые (вычислительные) слои;
  • Выходной слой.

Компоненты искусственной нейросети

Обучение таких нейросетей происходит в два этапа:

  • Прямое распространение ошибки;
  • Обратное распространение ошибки.

Во время прямого распространения ошибки делается предсказание ответа. При обратном распространении ошибка между фактическим ответом и предсказанным минимизируется.

Для более глубокого изучения советуем к просмотру 2 видео из TED Talks: Видео 1Видео 2 (видео-ролики на английском языке).

Виды и классификация нейронных сетей

За период развития, нейронные сети поделились на множество типов, которые переплетаются между собой в различных задачах. На данный момент сложно классифицировать какую-либо сеть только по одному признаку. Это можно сделать по принципу применения, типу входной информации, характеру обучения, характеру связей, сфере применения. 

Нейронная сеть

Принцип применения

Обучение с учителем (+) или без(-) или смешанное (с)

Сфера применения

Перцептрон Розенблатта

Распознание образов, принятие решений, прогнозирование, аппроксимация, анализ данных

+

Практически любая сфера применения, кроме оптимизации информации

Хопфилда

Сжатие данных и ассоциативная память

Строение компьютерных систем

Кохонена

Кластеризация, сжатие данных, анализ данных, оптимизация

Финансы, базы данных

Радиально-базисных функций (RBF-сеть)

Принятие решений и управление, аппроксимация, прогнозирование

с

Управленческие структуры, нейроуправление

Свёрточная

Распознание образов

+

Обработка графических данных

Импульсная

Принятие решение, распознавание образов, анализ данных

с

Протезирование, робототехника, телекоммуникации, компьютерное зрение

Про то, что такое обучение с учителем, написано в следующем разделе. Каждая сеть имеет свои характеристики, которые можно применять в том или ином случае. Рассмотрим более подробно два типа сетей, которые для множества производных типов нейросетей являются практически первоисточниками.

Сверточные

Один из популярнейших типов сети, часто используемый для распознавания той или иной информации в фотографиях и видео, обработке языка, системах для рекомендаций.

Основные характеристики

  • Отличная масштабируемость – проводят распознания образов любого разрешения (какое бы не было оно большое).
  • Использование объемных трехмерных нейронов – внутри слоя, нейроны связаны малым полем, именуемы рецептивным слоем.
  • Механизм пространственной локализации – соседние слои нейронов связаны таким механизмом, за счет чего обеспечивается работа нелинейных фильтров и охват все большего числа пикселей графического изображения.

Идея сложной системы этого типа нейросети возникла при тщательном изучении зрительной коры, которая в больших полушариях мозга отвечает за обработку визуальной составляющей. Основной критерий выбора в пользу сверточного типа – она в составе технологий глубокого обучения. Схожий тип с перцептроном, но разница в том, что здесь используется ограниченная матрица весов, сдвигаемая по обрабатываемому слою, вместо полносвязной нейронной сети.

Рекуррентные

Этот тип нейросети, в котором связи между элементами могут обрабатывать серии различных событий во времени или работать с последовательными цепочками в пространстве. Такой тип часто применяют там, где что-то целое разбито на куски. Например, распознавание речи или рукописного текста. От нее пошло множество видов сетей, в том числе Хопфилда, Элмана и Джордана.

Обучение нейронной сети

Один из главных и самый важный критерий – возможность обучения нейросети. В целом, нейросеть – это совокупность нейронов, через которые проходит сигнал. Если подать его на вход, то пройдя через тысячи нейронов, на выходе получится неизвестно что. Для преобразования нужно менять параметры сети, чтобы на выходе получились нужные результаты.

Обучение нейронной сети

Входной сигнал изменить нельзя, сумматор выполняет функцию суммирования и изменить что-то в нем или вывести из системы не выйдет, так как это перестанет быть нейросетью. Остается одно – использовать коэффициенты или коррелирующие функции и применять их на веса связей. В этом случае можно дать определение обучения нейронной сети – это поиск набора весовых коэффициентов, которые при прохождении через сумматор позволят получить на выходе нужный сигнал.

Такую концепцию применяет и наш мозг. Вместо весов в нем используются синопсы, позволяющие усиливать или делать затухание входного сигнала. Человек обучается, благодаря изменению синапсов при прохождении электрохимического импульса в нейросети головного мозга.

Но есть один нюанс. Если же задать вручную коэффициенты весов, то нейросеть запомнит правильный выходной сигнал. При этом вывод информации будет мгновенным и может показаться, что нейросеть смогла быстро обучиться. И стоит немного изменить входной сигнал, как на выходе появятся неправильные, не логические ответы.

Поэтому, вместо указания конкретных коэффициентов для одного входного сигнала, можно создать обобщающие параметры с помощью выборки.

С помощью такой выборки можно обучать сеть, чтобы она выдавала корректные результаты. В этом моменте, можно поделить обучение нейросети на обучение с учителем и без учителя.

Обучение с учителем

Обучение таким способом подразумевает концепцию: даете выборку входных сигналов нейросети, получаете выходные и сравниваете с готовым решением.

Как готовить такие выборки:

  • Для опознавания лиц создать выборку из 5000-10000 фотографий (вход) и самостоятельно указать, какие содержат лица людей (выход, правильный сигнал).
  • Для прогнозирования роста или падения акций, выборка делается с помощью анализа данных прошлых десятилетий. Входными сигналами могут быть как состояние рынка в целом, так и конкретные дни.

Учителем не обязательно выступает человек. Сеть нужно тренировать сотнями и тысячами часов, поэтому в 99% случаев тренировкой занимается компьютерная программа.

Обучение без учителя

Концепция состоит в том, что делается выборка входных сигналов, но правильных ответов на выходе вы знать не можете.

Как происходит обучение? В теории и на практике, нейросеть начинает кластеризацию, то есть определяет классы подаваемых входных сигналов. Затем, она выдает сигналы различных типов, отвечающие за входные объекты.

Сверточная нейронная сеть

Свёрточная нейронная сеть (СНС, CNN) — специальная архитектура искусственных нейронных сетей, предложенная Яном Лекуном и нацеленная на эффективное распознавание образов. Данной архитектуре удаётся гораздо точнее распознавать объекты на изображениях, так как, в отличие от многослойного персептрона, учитывается двухмерная топология изображения. При этом свёрточные сети устойчивы к небольшим смещениям, изменениям масштаба и поворотам объектов на входных изображениях. Во многом, именно поэтому архитектуры, основанные на свёрточных сетях, до сих пор занимают первые места в соревнованиях по распознаванию образов, как, например, ImageNet.

Сверточная нейронная сеть является основным инструментом для классификации и распознавания объектов, лиц на фотографиях, распознавания речи. Есть множество вариантов применения CNN, такие как Deep Convolutional Neural Network (DCNN),  Region-CNN (R-CNN), Fully Convolutional Neural Networks (FCNN), Mask R-CNN и другие.

CNN на сегодня – “рабочая лошадка” в области нейронных сетей. Используется преимущественно для решения задач компьютерного зрения, хотя может применяться также для работы с аудио и любыми данными, которые можно представить в виде матриц.

Особенности работы свёрточных сетей

Нам известно, что нейронные сети хороши в распознавании изображений. Причём хорошая точность достигается и обычными сетями прямого распространения, однако, когда речь заходит про обработку изображений с большим числом пикселей, то число параметров для нейронной сети многократно увеличивается. Причём настолько, что время, затрачиваемое на их обучение, становится невообразимо большим.

Так, если требуется работать с цветными изображениями размером 64х64, то для каждого нейрона первого слоя полносвязной сети потребуется 64·64·3 = 12288 параметров, а если сеть должна распознавать изображения 1000х1000, то входных параметров будет уже 3 млн! А помимо входного слоя есть и другие слои, на которых, зачастую, число нейронов превышает количество нейронов на входном слое, из-за чего 3 млн запросто превращаются в триллионы! Такое количество параметров просто невозможно рассчитать быстро ввиду недостаточно больших вычислительных мощностей компьютеров.

Главной особенностью свёрточных сетей является то, что они работают именно с изображениями, а потому можно выделить особенности, свойственные именно им. Многослойные персептроны работают с векторами, а потому для них нет никакой разницы, находятся ли какие-то точки рядом или на противоположных концах, так как все точки равнозначны и считаются совершенно одинаковым образом. Изображения же обладают локальной связностью. Например, если речь идёт об изображениях человеческих лиц, то вполне логично ожидать, что точки основных частей лица будут рядом, а не разрозненно располагаться на изображении. Поэтому требовалось найти более эффективные алгоритмы для работы с изображениями и ими оказались свёрточные сети.

В отличие от сетей прямого распространения, которые работают с данными в виде векторов, свёрточные сети работают с изображениями в виде тензоров. Тензоры — это 3D массивы чисел, или, проще говоря, массивы матриц чисел.

Тензоры - 3D массивы чисел

Изображения в компьютере представляются в виде пикселей, а каждый пиксель – это значения интенсивности соответствующих каналов. При этом интенсивность каждого из каналов описывается целым числом от 0 до 255.

Чаще всего используются цветные изображения, которые состоят из RGB пикселей – пикселей, содержащих яркости по трём каналам: красному, зелёному и синему. Различные комбинации этих цветов позволяют создать любой из цветов всего спектра. Именно поэтому вполне логично использовать именно тензоры для представления изображений: каждая матрица тензора отвечает за интенсивность своего канала, а совокупность всех матриц описывает всё изображение.

Из чего состоят свёрточные сети?

Свёрточные нейронные сети состоят из базовых блоков, благодаря чему их можно собирать как конструктор, добавляя слой за слоем и получая всё более мощные архитектуры. Основными блоками свёрточных нейронных сетей являются свёрточные слои, слои подвыборки (пулинга), слои активации и полносвязные слои.

Так, например, LeNet5 – одна из первых свёрточных сетей, которая победила в ImageNet, состояла из 7 слоёв: слой свёртки, слой пулинга, ещё один слой свёртки ещё один слой пулинга и трёхслойная полносвязная нейронная сеть.

Слои свёрточных сетей

Сверточный слой

Сверточный слой нейронной сети представляет из себя применение операции свертки к выходам с предыдущего слоя, где веса ядра свертки являются обучаемыми параметрами. Еще один обучаемый вес используется в качестве константного сдвига (англ. bias). При этом есть несколько важных деталей:

  • В одном сверточном слое может быть несколько сверток. В этом случае для каждой свертки на выходе получится своё изображение. Например, если вход имел размерность w×hw×h, а в слое было nn сверток с ядром размерности kx×kykx×ky, то выход будет иметь размерность n×(w−kx+1)×(h−ky+1)n×(w−kx+1)×(h−ky+1);
  • Ядра свертки могут быть трёхмерными. Свертка трехмерного входа с трехмерным ядром происходит аналогично, просто скалярное произведение считается еще и по всем слоям изображения. Например, для усреднения информации о цветах исходного изображения, на первом слое можно использовать свертку размерности 3×w×h3×w×h. На выходе такого слоя будет уже одно изображение (вместо трёх);
  • Можно заметить, что применение операции свертки уменьшает изображение. Также пиксели, которые находятся на границе изображения участвуют в меньшем количестве сверток, чем внутренние. В связи с этим в сверточных слоях используется дополнение изображения (англ. padding). Выходы с предыдущего слоя дополняются пикселями так, чтобы после свертки сохранился размер изображения. Такие свертки называют одинаковыми (англ. same convolution), а свертки без дополнения изображения называются правильными (англ. valid convolution). Среди способов, которыми можно заполнить новые пиксели, можно выделить следующие:
    • zero shift: 00[ABC]00;
    • border extension: AA[ABC]CC;
    • mirror shift: BA[ABC]CB;
    • cyclic shift: BC[ABC]AB.
  • Еще одним параметром сверточного слоя является сдвиг (англ. stride). Хоть обычно свертка применяется подряд для каждого пикселя, иногда используется сдвиг, отличный от единицы — скалярное произведение считается не со всеми возможными положениями ядра, а только с положениями, кратными некоторому сдвигу ss. Тогда, если если вход имел размерность w×hw×h, а ядро свертки имело размерность kx×kykx×ky и использовался сдвиг ss, то выход будет иметь размерность ⌊w−kxs+1⌋×⌊h−kys+1⌋⌊w−kxs+1 ×⌊h−kys+1⌋.

Пулинговый слой

Пулинговый слой призван снижать размерность изображения. Исходное изображение делится на блоки размером w×hw×h и для каждого блока вычисляется некоторая функция. Чаще всего используется функция максимума (англ. max pooling) или (взвешенного) среднего (англ. (weighted) average pooling). Обучаемых параметров у этого слоя нет.

Основные цели пулингового слоя:

  • уменьшение изображения, чтобы последующие свертки оперировали над большей областью исходного изображения;
  • увеличение инвариантности выхода сети по отношению к малому переносу входа;
  • ускорение вычислений.

Inception module

Inception module — это специальный слой нейронной сети, который был предложен в работе[2], в которой была представлена сеть GoogLeNet. Основная цель этого модуля заключается в следующем. Авторы предположили, что каждый элемент предыдущего слоя соответствует определенной области исходного изображения. Каждая свертка по таким элементам будет увеличивать область исходного изображения, пока элементы на последних слоях не будут соответствовать всему изображению целиком. Однако, если с какого-то момента все свертки станут размером 1×11×1, то не найдется элементов, которые покрывали бы все исходное изображение, поэтому было бы невозможно находить большие признаки на изображении.

Чтобы решить эту проблему, авторы предложили так называемый inception module — конкатенацию выходов для сверток размера 1×11×1, 3×33×3, 5×55×5, а также операции max pooling’а с ядром 3×33×3.

К сожалению, подобный наивный подход (англ. naive inception module) приводит к резкому увеличению слоев изображения, что не позволяет построить с его использованием глубокую нейронную сеть. Для этого авторы предложили использовать модифицированный inception module с дополнительным уменьшением размерности — дополнительно к каждому фильтру они добавили слой свертки 1×11×1, который схлопывает все слои изображения в один. Это позволяет сохранить малое число слоев, с сохранением полезной информации о изображении.

Residual block

Двумя серьезными проблемами в обучении глубоких нейронных сетей являются исчезающий градиент (англ. vanishing gradient) и взрывающийся градиент (англ. exploding gradient). Они возникают из-за того, что при дифференцировании по цепному правилу, до глубоких слоев нейронной сети доходит очень маленькая величина градиента (из-за многократного домножения на небольшие величины на предыдущих слоях). Для борьбы с этой проблемой был предложен так называемый residual block.

Идея заключается в том, чтобы взять пару слоёв (например, сверточных), и добавить дополнительную связь, которая проходит мимо этих слоёв. Пусть z(k) — выход k-ого слоя до применения функции активации, а a(k) — выход после. Тогда residual block будет выполнять следующее преобразование: a(k+2)=g(z(k+2)+a(k)), где g — функция активации.

На самом деле, такая нейронная сеть обучается предсказывать функцию F(x)−x, вместо функции F(x), которую изначально нужно было предсказывать. Для компенсации этой разницы и вводится это замыкающее соединение (англ. shortcut connection), которое добавляет недостающий x к функции.

Предположение авторов, которые предложили residual block, заключалось в том, что такую разностную функцию будет проще обучать, чем исходную. Если рассматривать крайние случаи, то если F(x)=x, такую сеть обучить нулю всегда возможно, в отличие от обучения множества нелинейных слоёв линейному преобразованию.

Где можно получить образование по нейронным сетям?

GeekUniversity совместно с Mail.ru Group открыли первый в России факультет Искусственного интеллекта преподающий нейронные сети.

Для учебы достаточно школьных знаний. У вас будут все необходимые ресурсы и инструменты + целая программа по высшей математике. Не абстрактная, как в обычных вузах, а построенная на практике. Обучение познакомит вас с технологиями машинного обучения и нейронными сетями, научит решать настоящие бизнес-задачи.

Обучение искусственному интеллекту

После учебы вы сможете работать по специальностям:

Особенности обучения в GeekUniversity

Через полтора года практического обучения вы освоите современные технологии Data Science и приобретете компетенции, необходимые для работы в крупной IT-компании. Получите диплом о профессиональной переподготовке и сертификат.

Обучение проводится на основании государственной лицензии № 040485. По результатам успешного завершения обучения выдаем выпускникам диплом о профессиональной переподготовке и электронный сертификат на портале GeekBrains и Mail.ru Group.

Проектно-ориентированное обучение

Обучение происходит на практике, программы разрабатываются совместно со специалистами из компаний-лидеров рынка. Вы решите четыре проектные задачи по работе с данными и примените полученные навыки на практике. Полтора года обучения в GeekUniversity = полтора года реального опыта работы с большими данными для вашего резюме.

Наставник

В течение всего обучения у вас будет личный помощник-куратор. С ним вы сможете быстро разобраться со всеми проблемами, на которые в ином случае ушли бы недели. Работа с наставником удваивает скорость и качество обучения.

Основательная математическая подготовка

Профессионализм в Data Science — это на 50% умение строить математические модели и еще на 50% — работать с данными. GeekUniversity прокачает ваши знания в матанализе, которые обязательно проверят на собеседовании в любой серьезной компании.

GeekUniversity дает полтора года опыта работы для вашего резюме

В результате для вас откроется в 5 раз больше вакансий:

Статистика по данным сайта hh.ru за 2018 г. по запросу «Data Science»

Для тех у кого нет опыта в программировании, предлагается начать с подготовительных курсов. Они позволят получить базовые знания для комфортного обучения по основной программе.

Сообщение Что такое нейронные сети и как они работают? Классификация искусственных нейросетей появились сначала на Майнинг Криптовалюты.



Источник: mining-cryptocurrency.ru

Майнинг Раптореум (RTM)

Если есть желание получать пассивный доход от покупки и продажи криптовалюты, стоит обратить внимание на майнинг Raptoreum. В представленной ниже информации подробно описано, что это за криптовалюта, какими преимуществами отличается и какой уровень безопасности гарантирует. Читать

Инструкция как создать NFT в 2022 году: ТОП 5 платформ

Как создать NFT в 2022 году и продать его. Как создать NFT картинку в 2022 году – подробная пошаговая инструкция.

Как создать свой NFT в 2022 году

Цифровые артефакты продаются в «эфирах» — «монетах» криптовалюты Ethereum. Чтобы распоряжаться «эфирами», нужно создать электронный кошелёк, к примеру на  Binance тут же из можно купить с помощью обычной банковской карты. Затем необходимо синхронизировать его с блокчейн-платформой, подходящей вам по тематике.

Размещение своих NFT-объектов на блокчейн-платформах платное. Чтобы опубликовать токен, на электронном кошельке должны быть деньги. Сколько точно — предсказать сложно, так как в разное время суток оно отличается.

Разберём на примере работы с NFT-маркетплейс Binance, так как кошелёк оформлен там и проще всего будет всё делать в одном месте.

 Это также можно делать непосредственно на Binance Smart Chain (BSC), используя такие платформы DeFi, как Featured By Binance, BakerySwap или TreasureLand. BSC предлагает низкие комиссии, быструю обработку транзакций и активно растущее сообщество NFT.

Выбор платформ сегодня велик, и практически везде вам нужно будет просто указать свои данные NFT, загрузить файл с предметом искусства и оплатить комиссию за создание. Если вы хотите продать свой NFT, то можете разместить его в одном из многочисленных NFT-маркетплейсов в сети BSC.

Перед созданием NFT

Прежде чем вы сможете начать создавать собственные NFT, вам потребуются три вещи:

  • ваша песня, произведение искусства или предмет коллекционирования;
  • некоторое количество криптовалюты для оплаты комиссии за создание;
  • криптовалютный кошелек для хранения криптовалюты.
Вам также нужно будет выбрать блокчейн, в котором вы создадите свой невзаимозаменяемый токен. Ниже мы еще остановимся на этом. Что такое NFT мы рассказывали в этой статье – вернитесь и прочитайте, если пропустили.

Из чего можно сделать NFT?

Очень важно разобраться в том, что именно может стать NFT. Могут ли это быть исключительно цифровые предметы искусства или в том числе и реальные произведения? Хоть это пока и редкость, но физические предметы коллекционирования также могут быть представлены в виде NFT. В этих случаях закрытый ключ к кошельку, содержащему NFT, обычно встроен в физический предмет или предоставляется вместе с ним.

На одном из аукционов Christie’s даже был продан вдохновленный NFT физический арт-объект – Block 21 (42.36433° N, -71.26189° E) (from Portraits of a Mind) с соответствующим NFT на аппаратном кошельке OpenDime.
И все же гораздо чаще собственные NFT создаются для цифровых произведений искусства, песен, гифок и видео. В форме NFT также могут быть представлены предметы коллекционирования из видеоигр и финансовые продукты для стейкинга. Впрочем, криптоискусство и NFT не ограничиваются всего одним форматом, поэтому при создании NFT творчество не знает границ.

Нужен ли мне конкретный кошелек для использования NFT?

Все зависит от сети, в которой вы хотите создать свой токен. К счастью, сегодня большинство кошельков поддерживают сети Ethereum и Binance Smart Chain, и между кошельками нет особой разницы. Оба блокчейна являются наиболее популярными для создания NFT.

Здесь важнее всего проверить сеть блокчейна, на базе которой создан ваш токен. Если это токен Ethereum, вам понадобится кошелек, поддерживающий Ethereum. Если Tezos, то вам понадобится кошелек, поддерживающий Tezos.

Для удобства рекомендуем использовать MetaMask или Trust Wallet. Эти два криптокошелька поддерживают множество блокчейнов. Однако вы всегда должны проверять, поддерживает ли ваш кошелек тот конкретный блокчейн, в котором находится ваш токен.

Какой блокчейн лучше использовать?

При создании NFT у вас есть огромный выбор блокчейнов. Сеть Ethereum стала первым крупным блокчейном, который предлагал невзаимозаменяемые токены в том виде, в котором мы их знаем сегодня. Список совместимых с NFT блокчейнов теперь включает Binance Smart ChainPolkadotTronTezos и многие другие.
Большинство NFT в настоящее время существуют либо в сети Ethereum, либо в BSC. Однако высокие комиссии в Ethereum сделали добычу и обработку NFT довольно дорогими. Binance Smart Chain – гораздо более дешевая альтернатива с высокой скоростью обработки транзакций. Существует множество маркетплейсов и NFT-проектов, что открывает для вас более широкую аудиторию потенциальных покупателей.

Какую платформу можно использовать для создания NFT?

Выбор платформы для создания NFT зависит от выбора блокчейна, который вы хотите использовать. Большинство протоколов BSC создают ваш NFT в виде токена BEP-721, поэтому технически они будут одинаковыми, какой бы блокчейн вы ни выбрали.

Если после этого вы захотите быстро обменять свой токен, вероятно, лучше выбрать платформу со знакомым вам маркетплейсом. В этом случае вам не нужно будет после создания NFT переносить его в другое место.

Для удобства мы рекомендуем BakerySwap, Juggerworld и Treasureland. У всех этих проектов BSC простой интерфейс и низкая комиссия за создание NFT. У BakerySwap крупнейший NFT-маркетплейс, что делает его отличным выбором для всех, кто хотел бы продать свои NFT после создания. В Treasureland есть возможность бесплатного создания NFT. Если вы хотите использовать сеть Ethereum, то рассмотрите два самых популярных варианта: Opensea или Rarible.

Могу ли я перенести NFT с маркетплейса в BSC на другой?

Вы можете легко переносить свои NFT между маркетплейсами, если новая платформа поддерживает ваш тип токена. Подавляющее большинство маркетплейсов и бирж BSC поддерживают токены BEP-721 и BEP-1155. Это наиболее распространенные типы NFT в сети BSC.

Однако при этом вы не сможете перенести свои NFT напрямую на маркетплейс в другом блокчейне. Например, у OpenSea нет нативной поддержки NFT из сети Binance Smart Chain. И хотя у вас есть возможность создать wrapped-токены, мы рекомендуем хранить ваши NFT в исходном блокчейне.

Чтобы перевести NFT на другую биржу, отправьте коллекционный предмет на свой кошелек. После сохранения в кошельке просто отправьте его на правильный адрес ввода в новой платформе. Всегда проверяйте, поддерживается ли стандарт NFT-токенов вашим кошельком и любой платформой, на которую вы их переносите.

Как создать NFT на Featured By Binance

  1. Перейдите на главную страницу Featured By Binance и нажмите [Создать]. Для создания потребуется подключить криптокошелек.
  2. Далее загрузите свои цифровые файлы (изображения, аудио, видео и т. д.).
  3. Обязательно добавьте описание (метаданные) к вашему NFT. Вам также придется выбрать между созданием отдельных NFT или коллекции (группа NFT).

Как создавать NFT на BakerySwap

Создание NFT-токенов на BakerySwap займет не более 5 минут. Просто удостоверьтесь в том, что у вас есть BNB для оплаты комиссии за создание (0,01 BNB на момент написания) и криптокошелек для хранения BNB.

Обратите внимание: комиссия за создание может меняться в зависимости от цены BNB. Если у вас пока нет кошелька, мы рекомендуем Trust Wallet для мобильных пользователей и MetaMask для ПК.

Вот что можно создавать в BakerySwap:

  • Картины
  • Гифки
  • Видео
  • Аудио

А теперь мы расскажем, как создать NFT на BakerySwap.

1. Прежде всего перейдите на NFT-маркетплейс в BakerySwap и подключите свой кошелек в правом верхнем углу экрана.

2. После подключения кошелька нажмите [Mint Artworks], чтобы приступить к созданию NFT.

3. Заполните обязательные поля информацией о коллекционном предмете.

4. Под сведениями о NFT нажмите значок [+], чтобы загрузить файл. Под декларацией о борьбе с плагиатом также отображается текущая комиссия за создание.

5. После заполнения данных и загрузки изображения предоставьте согласие с заявлением о борьбе с плагиатом, а затем нажмите [Mint].

6. Если вы используете MetaMask, появится всплывающее окно с просьбой подтвердить оплату комиссии за создание.

7. После оплаты вы можете посмотреть свой NFT в блокчейне с помощью BscScan. Теперь его можно передавать и продавать по своему желанию.

Как создавать NFT на Treasureland

Treasureland – это NFT-маркетплейс в рамках проекта BSC Dego Finance, протокола децентрализованных финансов (DeFi) и экосистемы NFT. Создание NFT с помощью Treasureland бесплатно для создателя, так как комиссию оплачивает покупатель NFT.

В настоящее время Treasureland позволяет пользователям создавать только изображения и GIF-файлы, но вы можете выбирать между одним и несколькими NFT, а также устанавливать роялти создателей.

1. Перейдите в раздел Treasureland Create и подключите свой криптокошелек, чтобы начать.

2. После этого вы попадете на страницу создания NFT, где можно заполнить данные о своем NFT и загрузить изображение или GIF-файл.

3. Перед созданием NFT обратите внимание на то, что у Treasureland роялти фиксированы на уровне 10%.

4. Теперь вы можете просмотреть свой NFT или выставить его на продажу. Если вы хотите передать его, вам придется заплатить комиссию за создание.

Как мне отправить свой NFT другому человеку?

После покупки или создания собственного NFT вы можете отправить его другому человеку прямо из своего кошелька. Если в вашем кошельке есть раздел NFT, то вы можете просто выбрать любой NFT и нажать на опцию отправки (такая функция есть в Trust Wallet и MetaMask).

Обратите внимание: получатель вашего NFT должен будет предоставить вам правильный адрес ввода для вашего типа токена. Если у вас NFT ERC-721 в сети Ethereum, получатель должен отправить вам свой адрес ввода для Ethereum ERC-721 из своего кошелька.

Могу ли я делиться доходом от владения и продажи NFT с другими?

Что касается коллабораций, то работа с NFT в настоящее время может немного сложнее. Наиболее распространенные типы NFT (ERC721, ERC1155, BEP721, BEP1155) допускают наличие лишь одного владельца.

Однако некоторые проекты планируют возможность разделения дохода от первой продажи между несколькими кошельками. Эта функция не встроена в код токена, а зависит от используемой биржи или маркетплейса. Рекомендуем проверять возможность разделения суммы продажи NFT на конкретных биржах.

Если вы хотите иметь полный контроль над своими NFT и хранить их в некастодиальном кошельке, используйте децентрализованную платформу, например, Featured by Binance.

 

 

Сообщение Инструкция как создать NFT в 2022 году: ТОП 5 платформ появились сначала на GitJournal.

Криптовалюта: краткие итоги 2021 года и DeFi-сектор как перспективное направление для инвестиций в 2022 году

2021 год стал очень удачным для крипторынка: большинство ключевых показателей обновило свои исторические максимумы, а многие криптовалюты выросли от 100 до почти 15000 процентов, обеспечив их держателям высокие доходы.

инвестиции в криптовалюту в 2022

Среди значимых событий этого года стоит выделить:

  1. капитализация рынка увеличилась почти в 2 раза и достигла отметки в $3 трлн;
  2. Bitcoin обновил очередной рекорд стоимости ($69 тыс.);
  3. объемы торгов на биржах превысили $2,2 трлн, что также является историческим достижением;
  4. объем инвестиций в крипторынок составил свыше $14 млрд (больше, чем за 6 предыдущих лет вместе взятых). И ожидается, что инвестиции в криптовалюту в 2022 году только продолжат расти;
  5. активное признание стейблкоинов со стороны институциональных инвесторов. За 2021 год их суммарное предложение выросло с 29 до 140 млрд долларов США, а годовой объем транзакций превысил 5 трлн;
  6. резкий скачок рынка невзаимозаменяемых токенов (non-fungible token, NFT, означает, что каждый токен в сети уникален). Этот сегмент рынка криптовалют стал 3-м по объему инвестиций (около $5 млрд), а в 2022 году показатель может легко удвоиться;
  7. стремительный рост сферы децентрализованных финансов (DeFi). Общее количество средств, заблокированных на DeFi-сервисах превысила $100 млрд (рост в 10 раз за 2021 год).

Все эти факторы говорят о том, что и в 2022 году криптоиндустрия продолжит активно развиваться, а цифровые валюты будут и дальше оказывать серьезную конкуренцию фиатным деньгам.

При этом эксперты крипторынка предполагают, что одним из наиболее перспективных направлений для инвестиций в криптовалюты в 2022 году станет именно DeFi-сектор.

Преимущества и возможности децентрализованных платформ

Активный рост DeFi-сектора, который представляет собой аналог традиционных финансовых инструментов, в первую очередь связан с тем, что пользователи получают больше свободы и возможностей в сравнении с классическими фининститутами:

  • все операции проводятся без посредников;
  • низкий размер комиссий;
  • возможность анонимно совершать все транзакции;
  • отсутствие доступа к пользовательской информации, в том числе к их криптокошелькам, со стороны администрации платформ;
  • простой доступ ко всем финансовым услугам, так как кредитные проверки полностью исключены;
  • работа сервисов построена на базе смарт-контрактов.

инвестиции в криптовалюту в 2022

Перспективность DeFi-платформ с точки зрения инвестиций в криптовалюту в 2022 году объясняется выгодными условиями по вкладам и кредитам в сравнении с традиционными банками. Например, сервис BaksDAO предлагает не только услуги по криптодепозитам, но и предоставляет возможность брать займы (под 11% годовых) в цифровых деньгах. Площадка обладает собственным алгоритмическим стейблкоином BAKS, доходность вклада в котором достигает 20% годовых.

Если на BaksDAO открыть вклад в биткоине, то прибыль составит от 5,7%. Для других криптоактивов установлены следующие ставки:

  • USDT – 15%;
  • BNB – 10,37%;
  • Ethereum – 5,45%.

Криптодепозиты открывают перед пользователями широкие возможности, так как они объединяют в себе преимущества нескольких стратегий пассивного заработка: длительное хранение монет (hodl-стратегия) и вклад. Владельцы цифровых денег в любой момент времени без штрафов могут изменить валюту депозита, вывести заработанные по процентам средства, взять займ и использовать его по своему усмотрению. Соответственно, такие DeFi-платформы, как BaksDAO, в 2022 году с точки зрения инвестиций в криптовалюту будут одним из самых привлекательных направлений, обеспечивая пользователям получение высокого дохода с минимальными рисками.

Сообщение Криптовалюта: краткие итоги 2021 года и DeFi-сектор как перспективное направление для инвестиций в 2022 году появились сначала на GitJournal.

Криптовалюта и кибербезопасность

Инциденты киберпреступности растут год за годом – похоже, для интернет-преступников не наблюдается замедления.

С появлением криптовалюты эти киберпреступники теперь имеют новые устремления и новые мотивы для своей преступной деятельности в Интернете.

Более того, рост криптовалюты привел к созданию новых видов преступной деятельности.

Cryptojacking, Ransomware и различные другие подобные действия имеют прямую корреляцию с ростом криптухи. Читать