Сьогодні, в епоху швидкого розвитку штучного інтелекту, одна стара і проста істина стає надзвичайно важливою: ми не можемо легко вірити в речі, які не можна перевірити. Наразі ми стоїмо на порозі технологічної революції, що є одночасно захоплюючою і повною невідомості.

Штучний інтелект проникає в наше повсякденне життя з вражаючою швидкістю, від медичної діагностики до контролю фінансових ризиків, а також в таких ключових сферах, як автономне водіння та національна безпека. Проте, за цим вражаючим технологічним прогресом ми стикаємося з фундаментальним викликом: системи штучного інтелекту часто подібні до важко зрозумілого "чорного ящика". Ми можемо бачити результати, які вони генерують, але важко зрозуміти їх внутрішні механізми роботи та процеси прийняття рішень.

Коли ми дивимося в майбутнє загального штучного інтелекту (AGI) та суперінтелекту (ASI), ця непрозорість може перетворитися на серйозну проблему для виживання людської цивілізації. Багато провідних дослідників ШІ постійно нагадують нам, що нездатна до перевірки система суперінтелекту може нести непередбачувані ризики. Вона може добре проявляти себе під час тестування безпеки, але в реальному застосуванні діяти зовсім інакше; її можуть використовувати для здійснення руйнівних кібернетичних атак або соціальної маніпуляції; ще серйозніше, ми можемо втратити здатність оцінювати, чи все ще вона служить інтересам людства.

Стикаючись із цією епохальною проблемою, нам потрібне інноваційне рішення. Це рішення тепер має назву: DeepProve.

DeepProve – це бібліотека технологій машинного навчання з нульовим знанням (zkML), ретельно розроблена Лабораторією Лагранжа. Її основна мета – забезпечити верифікацію для систем штучного інтелекту, що дозволяє нам перевіряти правильність і достовірність їхніх вихідних результатів, навіть не повністю розуміючи, як працює AI всередині. Ця технологія має потенціал стати ключовим інструментом для побудови надійних систем AI, прокладаючи шлях для майбутнього розвитку штучного інтелекту.