solve the a$,$b$,$c$,$d$,$e for me and for c$,$d$,$e question python is import numpy as np

import matplotlib.pyplot as plt

import random

def f$($x$)$:

return $1*$x$**4-5*$x$**2-3*$x

def data$\_$generator$($N$=1000,$ seed$=1234)$:

np$.$random.seed$($seed$)$

x $=$ np$.$random.uniform$($low$=-3.,$ high$=3.,$ size$=[$N$,1])$

epsilon $=$ np$.$random.normal$($loc$=0\mathrm{.}0,$ scale$=5\mathrm{.}0,$ size$=[$N$,1])$

y $=$ f$($x$)+$ epsilon

return $($x$,$ y$)$

def plot$\_$groundtruth$($ax$)$:

x $=$ np$.$linspace$(-3\mathrm{.}1,3\mathrm{.}1,1000)$

ax$.$plot$($x$,$ f$($x$),$ linestyle$=\text{'}-\text{'},$ color$=$'black'$)$

def plot$\_$data$($ax$,$ x$,$ y$)$:

ax$.$scatter$($x$,$ y$,$ marker$=\text{'}$o$\text{'},$ color$=$'gray', alpha$=0\mathrm{.}7)$

def transformation$($x$,$ K$)$:

phi $=$ np$.$zeros$([$len$($x$),$ K$])$

for k in range$($K$)$:

phi$[$:$,[$k$]]=$ x$**$k

return phi

def f$\_$predict$($w$,$ phi$)$:

return np$.$matmul$($phi$,$ w$)$

def evaluation$($y$,$ y$\_$hat$)$: #

return np$.$mean$($np$.$sqrt$(($y$-$y$\_$hat$)**2))$

### FILL IN ############################################################

def optimize$\_$CF$($phi$,$ y$)$:

result $=$ ### FILL IN

return result

def compute$\_$gradient$($w$,$ phi, y$)$:

$\text{'}\text{'}\text{'}$

Note. ignore the effect of sigma $($of the noise$)$ as this will be capture in the step$-$size

$\text{'}\text{'}\text{'}$

grad $=$ ### FILL IN

return $1/$len$($phi$)*$ grad

# do not use tolerance and make it run until the final iteration

def optimize$\_$GD$($phi$,$ y$,$ step$\_$size $=1$e$-4,$ iteration $=20000)$:

error $=$ np$.$zeros$([$iteration$])$

w $=$ np$.$zeros$([$phi$.$shape$[1],1])$ #initialization

itr $=0$

while$($itr $$ iteration$)$:

grad $=$ compute$\_$gradient$($w$,$ phi, y$)$

w $=$ ### FILL IN

error$[$itr$]=$ ###FILL IN using function "evaluation$()"$

itr $+=1$

print$(\text{'}$w$\_$opt$\_$GD: $\{\}\text{'}.$format$($w$))$

return w$,$ error

#########################################################################

# do not touch this...

def run$\_$problem$3\_$cde$()$:

K $=5$

x$,$ y $=$ data$\_$generator$($N$=500,$ seed$=1234)$

fig, ax $=$ plt$.$subplots$()$

plot$\_$groundtruth$($ax$)$

plot$\_$data$($ax$,$ x$,$y$)$

ax$.$set$\_$ylabel$(\text{'}$f$($x$)\text{'},$ fontsize$=15)$

ax$.$set$\_$xlabel$(\text{'}$x$\text{'},$ fontsize$=15)$

ax$.$grid$()$

ax$.$set$\_$ylim$([-23,53])$

phi $=$ transformation$($x$,$ K$)$

w$\_$opt$\_$CF $=$ optimize$\_$CF$($phi$,$ y$)$

iteration $=20000$

step$\_$size $=2$e$-4$

### run GD

w$\_$opt$\_$GD$,$ error$\_$GD $=$ optimize$\_$GD$($phi$,$ y$,$ step$\_$size $=$ step$\_$size, iteration $=$ iteration$)$

z $=$ np$.$linspace$(-3\mathrm{.}1,3\mathrm{.}1,1000).$reshape$([-1,1])$

### plot f$($x; w$\_$opt$\_$CF$)$

ax$.$plot$($z$,$ f$\_$predict$($w$\_$opt$\_$CF$,$ transformation$($z$,$ K$)),$ linestyle$=\text{'}-\text{'},$ color$=$'red'$)$

### plot f$($x; w$\_$opt$\_$GD$)$

ax$.$plot$($z$,$ f$\_$predict$($w$\_$opt$\_$GD$,$ transformation$($z$,$ K$)),$ linestyle$=\text{'}-\text{'},$ color$=$'blue'$)$

plt$.$legend$([\text{'}$Ground Truth', 'Data Points', 'Closed Form', $\text{'}$GD$\text{'}],$ loc$=1)$

plt$.$show$()$

plt$.$close$()$

plt$.$figure$()$

plt$.$plot$($np$.$arange$($iteration$),$ error$\_$GD$,$ alpha $=0\mathrm{.}7,$ color$=$'blue'$)$

plt$.$grid$()$

plt$.$xlabel$(\text{'}$iteration$\text{'},$ fontsize$=15)$

plt$.$ylabel$(\text{'}$MSE$\text{'},$ fontsize$=15)$

plt$.$show$()$

plt$.$close$()$

### do not touch this...

def run$\_$problem$3\_$g$($K$)$:

x$,$ y $=$ data$\_$generator$($N$=50,$ seed$=1234)$

fig, ax $=$ plt$.$subplots$()$

plot$\_$groundtruth$($ax$)$

plot$\_$data$($ax$,$ x$,$y$)$

ax$.$set$\_$ylabel$(\text{'}$f$($x$)\text{'},$ fontsize$=15)$

ax$.$set$\_$xlabel$(\text{'}$x$\text{'},$ fontsize$=15)$

ax$.$grid$()$

ax$.$set$\_$ylim$([-23,53])$

phi $=$ transformation$($x$,$ K$)$

w$\_$opt$\_$CF $=$ optimize$\_$CF$($phi$,$ y$)$

z $=$ np$.$linspace$(-3\mathrm{.}1,3\mathrm{.}1,1000).$reshape$([-1,1])$

### plot f$($x; w$\_$opt$\_$CF$)$

ax$.$plot$($z$,$ f$\_$predict$($w$\_$opt$\_$CF$,$ transformation$($z$,$ K$)),$ linestyle$=\text{'}-\text{'},$ color$=$'red'$)$

plt$.$legend$([\text{'}$Ground Truth', 'Data Points', $\text{'}$K$=\{\}\text{'}.$format$($K$)],$ loc$=1)$

plt$.$show$()$

plt$.$close$()$

if $\_\_$name$\_\_=="\_\_$main$\_\_"$:

run$\_$problem$3\_$cde$()$

run$\_$problem$3\_$g$($K$=20)$ #you should change K to compare polynomial regression w