Построить матрицу Гессе

Clear["Global`*"]
h=D[Exp[x^2+y^2],{{x,y},2}];
%//MatrixForm

Dt[Exp[x^2+y^2]]
Dt[%]/.{Dt[Dt[x]]->0,Dt[Dt[y]]->0}
Collect[%,{Dt[x],Dt[y]}]//Simplify

Точка минимума

Clear["Global`*"]
Minimize[{x^2+a x y +y^2,a==0},{x,y}]

Reduce[{x^2 +y^2==0},{x,y},Reals]

Визуализация

Plot3D[{x^2+x y +y^2,x^2+4x y +y^2},{x,-3,3},{y,-3,3},AspectRatio->1]

Plot3D[{x^2+x y +y^2,x^2+4x y +y^2},{x,-3,3},{y,-3,3},AspectRatio->1,RegionFunction->Function[{x,y,z},x >0||y>0]]

Найти экстремум

Clear["Global`*"]
f[x_,y_,z_]:=x^2-2x y +2y^2-4y+z^2;
Maximize[f[x,y,z],{x,y,z}]
Minimize[f[x,y,z],{x,y,z}]

ContourPlot3D[x^2-2x y +2y^2-4y+z^2==0,{x,-1,3},{y,-1,3},{z,-1,3}]

Метод наименьших квадратов

data={{-2,0.5},{0,1},{1,1.5},{2,2},{4,3}};
line = Fit[data, {1,x},x]
parabola = Fit[data, {1,x,x^2},x]

Show[
Plot[{line,parabola},{x,-3,5},PlotStyle->{Red,Blue}],
ListPlot[data,Filling->Axis]
]