Определим вначале понятие устойчивости решения.
Решение задачи y* называется устойчивым по исходным данным x*, если оно зависит от исходных данных непрерывным образом. Это означает, что малому изменению исходных данных соответствует малое изменение решения. Строго говоря, для любого > 0 существует = () > 0 такое, что всякому исходному данному x*, удовлетворяющему условию |x - x*| < , соответствует приближенное решение y*, для которого |y - y*| < .
Говорят, что задача поставлена корректно, если выполнены следующие три условия:
1. Решение существует при любых допустимых исходных данных.
2. Это решение единственно.
3. Это решение устойчиво по отношению к малым изменениям исходных данных.
Если хотя бы одно из этих условий не выполнено, задача называется некорректной.
Пример 1.1.
Покажем, что задача вычисления определенного интеграла I = корректна. Пусть f*(x) - приближенно заданная функция и I* = . Очевидно, приближенное решение I* существует и единственно. Определим абсолютную погрешность f* с помощью равенства (f*) = |f(x) - f*(x)|. Так как
(I) = |I - I*| = || (b - a)(f*),
то для любого > 0 неравенство (I) < будет выполнено, если будет выполнено условие (f*) < , где = /(b - a).
Таким образом, решение I* устойчиво. Все три условия корректности задачи выполнены.
Пример 1.2.
Покажем, что задача вычисления производной u(x) = f (x) приближенно заданной функции некорректна.
Пусть f*(x) - приближенно заданная на отрезке [a, b] непрерывно дифференцируемая функция и u*(x) = (f*(x)). Определим абсолютные погрешности следующим образом: (f*) = |f(x) - f*(x)|, (u*) = |u(x) - u*(x)|.
Возьмем, например, f*(x) = f(x) + sin(x/2), где 0 < < 1. Тогда, u*(x) = u(x) + -1cos(x/2), (u*) = -1, т. е. погрешность задания функции равна , а погрешность производной равна -1. Таким образом, сколь угодно малой погрешности задания функции f может отвечать сколь угодно большая погрешность производной f .