รูปหลายเหลี่ยมนูนและเว้า

ในทางเรขาคณิต รูปหลายเหลี่ยมรูปหนึ่งอาจจัดว่าเป็น รูปหลายเหลี่ยมนูน หรือ รูปหลายเหลี่ยมเว้า อย่างใดอย่างหนึ่ง

รูปหลายเหลี่ยมนูน

รูปห้าเหลี่ยมปรกติเป็นรูปหลายเหลี่ยมนูน

รูปหลายเหลี่ยมนูน (อังกฤษ: convex polygon) คือรูปหลายเหลี่ยมเชิงเดียวที่มีเนื้อที่ภายในเป็นเซตนูน (convex set)^[1] สมบัติต่อไปนี้ของรูปหลายเหลี่ยมเชิงเดียว ซึ่งเทียบเท่าได้กับสมบัติของรูปหลายเหลี่ยมนูน

• มุมภายในทุกมุมมีขนาดน้อยกว่า 180 องศา
• ส่วนของเส้นตรงทุกเส้นที่เชื่อมระหว่างจุดยอดสองจุดใด ๆ จะวางตัวอยู่ภายในขอบเขตของรูปหลายเหลี่ยม

รูปหลายเหลี่ยมเชิงเดียวจะเป็น รูปหลายเหลี่ยมนูนโดยแท้ (strictly convex) ถ้ามุมภายในทุกมุมน้อยกว่า 180 องศา และส่วนของเส้นตรงทุกเส้นที่เชื่อมระหว่างจุดยอดสองจุด ที่ไม่อยู่ติดกัน และไม่ใช่จุดเดียวกัน วางตัวอยู่ภายในขอบเขตของรูปหลายเหลี่ยม

รูปสามเหลี่ยมทุกรูปที่ไม่ได้อยู่ในภาวะลดรูป เป็นรูปหลายเหลี่ยมนูนโดยแท้

รูปหลายเหลี่ยมเว้า

ตัวอย่างหนึ่งของรูปหลายเหลี่ยมเว้า

รูปที่ไม่ได้เป็นรูปหลายเหลี่ยมนูนจะเรียกว่าเป็น รูปหลายเหลี่ยมเว้า (อังกฤษ: concave polygon)^[2] หรือรูปหลายเหลี่ยมวกเข้า (อังกฤษ: reentrant polygon)^[3] รูปหลายเหลี่ยมเว้าจะมีมุมภายในมุมหนึ่งที่มีขนาดมากกว่า 180 องศาเสมอ

รูปหลายเหลี่ยมเว้าเป็นไปได้ที่จะสามารถตัดแบ่งให้เป็นรูปหลายเหลี่ยมนูนหลายรูป ขั้นตอนวิธีสำหรับการแยกส่วนเป็นรูปย่อยไม่กี่รูป โดยใช้เวลาคำนวณเชิงพหุนาม สามารถทำได้และได้อธิบายไว้แล้วโดย Chazelle กับ Dobkin^[4]